Temperature、Top-P、Top-K 的作用与调节
答案要点
- Temperature:logits 除以 T,越低越确定,越高越随机,趋近 0 近似贪心
- Top-K:只在概率最高的 K 个 token 中采样,候选数固定
- Top-P:取累积概率达到 P 的最小 token 集合,候选数自适应
- 常见流程是温度缩放后再做 Top-K/Top-P 截断并采样
- 准确性任务用低温小 Top-P,创意任务用较高温度和较大 Top-P
易错点
- 把 Temperature 理解成控制输出长度
- 把 Top-P 误解为单个 token 的概率阈值
- 同时把温度和 Top-P 调得很大,导致输出失控
面试官常见追问
- Temperature 设为 0 输出就完全确定吗?
- Top-P 相比 Top-K 好在哪?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。