面试题库 › 算法 / 大模型 › 训练与推理一致性问题

训练与推理一致性问题

难度 ★★★在 2 场真实面经中被问到 方向:算法 / 大模型考点:分布式训练与并行

哪些公司问过

蚂蚁集团1蚂蚁金服1

常见岗位:大模型算法

答案要点

  1. 定义:训练与推理两套框架对同一输入的数值结果应对齐
  2. 来源:精度与量化差异、算子实现、并行规约顺序、动态 batch
  3. 推荐系统中还有特征口径不一致导致的训练服务偏差
  4. RL 中采样引擎与训练引擎概率不一致,会造成离策略偏差和训练不稳
  5. 对策:监控对数概率差异、对齐精度与算子、重要性采样修正、一致性回归测试

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题