做实体抽取或确定性分类时,如何设置 temperature、top_p?
哪些公司问过
蚂蚁集团1蚂蚁国际1
答案要点
- 确定性任务把 temperature 调到 0 或很低,接近贪心解码
- top_p 保持默认或适当调低,一般只重点调整其中一个
- temperature 缩放 logits 改变分布尖锐程度,top_p 限定累计概率内的候选集合
- 配合结构化输出、明确标签列表、少样本示例与停止符约束结果
- 温度为 0 也可能有细微不一致,需用测试集评估 F1 和稳定性
易错点
- 以为 temperature 设为 0 就能保证完全确定的输出
- 同时大幅调整 temperature 和 top_p,难以判断效果来源
- 只调采样参数,不做输出格式约束和校验
面试官常见追问
- 什么场景需要调高 temperature?
- top_k 和 top_p 有什么区别?
- 怎么让模型输出的标签一定在合法集合内?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。