面试题库 › 算法 / 大模型 › 拒绝采样原理与 Best-of-N 的异同

拒绝采样原理与 Best-of-N 的异同

难度 ★★★在 1 场真实面经中被问到 方向:算法 / 大模型考点:采样与概率方法

常见岗位:大模型算法

答案要点

  1. 条件 p(x) ≤ M·q(x) 保证接受概率不超过 1,且 q 的支撑集覆盖 p
  2. 三步:x 从 q 采样,u 从 U(0,1) 采样,u ≤ p(x)/(M·q(x)) 则接受
  3. 正确性:接受样本密度正比于 q(x)·p(x)/(M·q(x)) = p(x)/M,归一化即 p(x)
  4. 平均接受率为 1/M(p、q 均归一化时),q 越贴近 p 效率越高
  5. Best-of-N:采样 N 个候选用奖励模型或验证器取最优,计算量固定,但不是精确的分布采样

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题