SFT 收敛判断、过拟合与 loss 异常排查
哪些公司问过
答案要点
- 收敛:训练 loss 与梯度范数平稳,验证 loss 不再下降,下游评测趋稳
- 过拟合:训练 loss 低、验证 loss 升,通用能力下降;早停、去重、混入通用数据
- 欠拟合:训练 loss 降不下去、不守格式;增加步数、调学习率、检查数据
- loss 异常先查数据:模板、标签掩码、错误标注、异常长样本
- 再查超参:学习率与 warmup、梯度裁剪、batch 大小
易错点
- 只看训练 loss 判断收敛
- 忽略标签掩码错误,把提示部分也算进损失
- loss 震荡时只调学习率,不检查数据
面试官常见追问
- 什么是熵坍塌?
- RL 的 reward 曲线上升但效果变差,为什么?
- 训练后频繁复读、冗余的原因?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。