SFT 学习率量级与 Warmup 的作用
哪些公司问过
答案要点
- Warmup 在训练初期把学习率从很小逐步升到目标值,避免早期更新过大
- 原因:Adam 二阶矩估计初期不准,梯度大且方向不稳,大学习率易震荡或发散
- 前期 loss 下降快源于快速适应数据格式,同时梯度范数、参数更新量、激活分布也剧烈变化
- 全参数 SFT 学习率常在 1e-6 到 1e-5 量级、模型越大越小;LoRA 常用 1e-4 左右
- 学习率过大易遗忘,过小收敛慢,需小规模实验扫参
易错点
- 把 LoRA 的学习率照搬到全参数微调,导致训练发散或严重遗忘
- 认为 warmup 只影响 loss 曲线,忽略其对优化器状态和梯度稳定的作用
- 不考虑 batch 大小改变时学习率也需相应调整
面试官常见追问
- SFT 常用什么优化器,warmup 比例和调度怎么设?
- DPO 的温度系数 β 怎么选?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。