过程奖励与结果奖励及多轮信用分配
哪些公司问过
答案要点
- 结果监督只对最终结果打分,标注便宜但稀疏,可能奖励错误过程
- 过程监督对每步打分,反馈稠密、利于定位错误,但标注成本高
- 多轮 RL 中奖励延迟,需把最终结果归因到各轮动作
- 可组合轮次级奖励与最终任务奖励,用折扣回报或价值函数估计优势
- 以结果奖励为主、过程奖励为辅,防止过度优化中间指标
易错点
- 认为过程奖励总是优于结果奖励
- 过程奖励权重过高,模型学会刷中间分
- 多轮场景只用最终奖励,不处理信用分配
面试官常见追问
- 长轨迹的信用分配为什么难?
- 过程奖励怎么获得?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。