面试题库 › 算法 / 大模型 › 做实体抽取或确定性分类时,如何设置 temperature、top_p?

做实体抽取或确定性分类时,如何设置 temperature、top_p?

难度 ★★☆在 2 场真实面经中被问到 方向:算法 / 大模型考点:解码策略与幻觉

哪些公司问过

蚂蚁集团1蚂蚁国际1

常见岗位:大模型算法

答案要点

  1. 确定性任务把 temperature 调到 0 或很低,接近贪心解码
  2. top_p 保持默认或适当调低,一般只重点调整其中一个
  3. temperature 缩放 logits 改变分布尖锐程度,top_p 限定累计概率内的候选集合
  4. 配合结构化输出、明确标签列表、少样本示例与停止符约束结果
  5. 温度为 0 也可能有细微不一致,需用测试集评估 F1 和稳定性

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题