面试题库 › 算法 / 大模型 › 训练中 loss 出现 NaN 的原因与解决方法

训练中 loss 出现 NaN 的原因与解决方法

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:训练优化与正则化

常见岗位:计算机视觉

答案要点

  1. 梯度爆炸:学习率过大、网络过深、初始化不当导致参数发散
  2. 非法数值运算:log(0)、除零、负数开方、exp 溢出
  3. 数据问题:输入含 NaN/Inf、标签越界或预处理错误
  4. fp16 动态范围小易上溢,需要 loss scaling 或改用 bf16
  5. 排查:查数据、监控梯度范数、detect_anomaly 定位算子;修复:降学习率、warmup、梯度裁剪、加 eps

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题