面试题库 › 算法 / 大模型 › KL 散度的含义与在对齐中的作用

KL 散度的含义与在对齐中的作用

难度 ★★★在 6 场真实面经中被问到 方向:算法 / 大模型考点:强化学习对齐

哪些公司问过

字节跳动3阿里巴巴2蔚来1

常见岗位:大模型算法、AI 应用 / Agent 开发、计算机视觉

答案要点

  1. KL 散度衡量两个概率分布的差异:D(P||Q)=ΣP(x)log(P(x)/Q(x)),连续则为积分
  2. 性质:非负,当且仅当 P=Q 时为 0,不对称,不是严格的距离
  3. 含义:用 Q 近似 P 时额外付出的信息量
  4. RLHF 中作为约束,防止策略偏离参考模型太远,避免奖励 hacking 和语言退化
  5. 也用于变分推断、VAE、知识蒸馏;DPO 目标隐含 KL 约束

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题