Beam Search是怎么做的?有哪些优化?
哪些公司问过
答案要点
- 每步保留累计对数概率最高的 k 个候选序列,k 为束宽
- 每步扩展 k 个候选的所有下一个 token,再选出新的前 k 个
- 遇到结束符移入完成列表,最后取得分最高的序列
- 长度归一化缓解偏向短句,另有重复惩罚、n-gram 去重、提前停止
- 确定性搜索,适合翻译摘要;开放生成多用 Top-k、Top-p 采样
易错点
- 以为 Beam Search 能找到全局最优序列
- 用概率直接相乘而不是对数相加,数值下溢
- 束宽越大越好,忽略开销和生成变平淡的问题
面试官常见追问
- 为什么要做长度归一化?
- Beam Search 和贪心、采样怎么取舍?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。