拒绝采样原理与 Best-of-N 的异同
答案要点
- 条件 p(x) ≤ M·q(x) 保证接受概率不超过 1,且 q 的支撑集覆盖 p
- 三步:x 从 q 采样,u 从 U(0,1) 采样,u ≤ p(x)/(M·q(x)) 则接受
- 正确性:接受样本密度正比于 q(x)·p(x)/(M·q(x)) = p(x)/M,归一化即 p(x)
- 平均接受率为 1/M(p、q 均归一化时),q 越贴近 p 效率越高
- Best-of-N:采样 N 个候选用奖励模型或验证器取最优,计算量固定,但不是精确的分布采样
易错点
- 说接受率与 M 无关,或误写成 M
- 把 Best-of-N 说成严格的拒绝采样,忽略它是取最优而非按概率接受
- 忽略 q 必须覆盖 p 的支撑集
面试官常见追问
- 为什么接受的样本服从 p(x)?
- 如果找不到有限的 M 会怎样?
- Self-Consistency 怎么体现拒绝采样思想?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。