Temperature、Top-k、Top-p 原理与调参
哪些公司问过
答案要点
- 温度:logits 除以 T 后 softmax,T 小更确定,T 大更多样,T→0 近似贪心
- top-k:只在概率最高的 k 个 token 中采样,候选数固定
- top-p:取累积概率达到 p 的最小 token 集合,候选数随分布动态变化
- 确定性任务如抽取、代码、JSON 输出调低温度;创意任务调高温度
- 通常优先调温度或 top-p 其中一个,用评测集对比效果
易错点
- 把温度理解为直接改变 top-k 的候选数量
- 认为温度越高回答越聪明或越有创意,忽视出错和幻觉增加
- 同时大幅调整多个参数,难以判断哪个起作用
面试官常见追问
- 实际调优 Temperature、Top_p、Top_k 的经验是什么?
- 温度设为 0 输出就一定完全确定吗?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。