面试题库 › 算法 / 大模型 › Temperature、Top-k、Top-p 原理与调参

Temperature、Top-k、Top-p 原理与调参

难度 ★★☆在 7 场真实面经中被问到 方向:算法 / 大模型考点:解码策略与幻觉

哪些公司问过

字节跳动1阿里巴巴1百度1携程1蚂蚁集团1佰聆数据1

常见岗位:AI 应用 / Agent 开发、大模型算法、NLP / 语音

答案要点

  1. 温度:logits 除以 T 后 softmax,T 小更确定,T 大更多样,T→0 近似贪心
  2. top-k:只在概率最高的 k 个 token 中采样,候选数固定
  3. top-p:取累积概率达到 p 的最小 token 集合,候选数随分布动态变化
  4. 确定性任务如抽取、代码、JSON 输出调低温度;创意任务调高温度
  5. 通常优先调温度或 top-p 其中一个,用评测集对比效果

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题