面试题库 › 算法 / 大模型 › 大模型解码策略及输出质量波动的原因

大模型解码策略及输出质量波动的原因

难度 ★★☆在 3 场真实面经中被问到 方向:算法 / 大模型考点:解码策略与幻觉

哪些公司问过

拼多多1虾皮1好未来1

常见岗位:大模型算法、NLP / 语音、推荐搜索广告

答案要点

  1. 每步从下一个 token 的概率分布中选取,自回归使早期选择影响后续
  2. 贪心确定但易重复;束搜索适合有标准答案的任务
  3. 温度调节分布陡峭程度,越低越保守、越高越多样
  4. top-k 固定候选数,top-p 按累计概率自适应确定候选集
  5. 可通过约束解码、logits 处理和停止词控制输出格式

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题