rollout 数量、batch size 与计算资源的关系
哪些公司问过
答案要点
- rollout 总数约等于提示数乘以每个提示的采样数,与 batch size 大体成正比
- 卡数决定采样和训练的并行度,理想情况下近似线性加速
- 实际是亚线性:通信开销、负载不均、长尾样本拖慢整批
- 增大 batch size 需同步调整学习率和更新次数
- 真实参与训练的样本数不一定等于 rollout 数,会经过拒绝采样等过滤
易错点
- 认为加卡一定线性加速
- 忽略长尾样本对整批耗时的影响
- 认为所有 rollout 都参与训练
面试官常见追问
- 真实采样数量一定等于 rollout 数量吗?
- 拒绝采样是什么?
- 为什么加卡不能线性加速?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。