训练与推理一致性问题
哪些公司问过
蚂蚁集团1蚂蚁金服1
答案要点
- 定义:训练与推理两套框架对同一输入的数值结果应对齐
- 来源:精度与量化差异、算子实现、并行规约顺序、动态 batch
- 推荐系统中还有特征口径不一致导致的训练服务偏差
- RL 中采样引擎与训练引擎概率不一致,会造成离策略偏差和训练不稳
- 对策:监控对数概率差异、对齐精度与算子、重要性采样修正、一致性回归测试
易错点
- 认为同一份权重在不同框架下结果必然完全一致
- RL 训练中忽略采样与训练引擎的概率差异
- 只在最终指标上发现问题,没有逐层对比定位
面试官常见追问
- GPTQ 和 QAT 是怎么做的?
- 为什么选择 W8A16?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。