DeepSeek-R1 的训练流程及与 V2、V3、R1-Zero 的差异
哪些公司问过
答案要点
- V2:MLA + DeepSeekMoE(细粒度专家 + 共享专家)
- V3:671B 总参数、约 37B 激活,无辅助损失负载均衡、多 token 预测、FP8 训练
- R1-Zero:V3-Base 上纯 RL(GRPO + 规则奖励),无 SFT,推理能力涌现但可读性差
- R1 四阶段:冷启动 SFT → 推理 RL → 拒绝采样 + SFT → 全场景 RL
- R1 生成的数据还用于蒸馏 Qwen、Llama 系列小模型,仅做 SFT
易错点
- 说 R1 是在 V3 基础上改了架构:R1 架构与 V3 相同,差异在后训练
- 把 R1-Zero 和 R1 混为一谈:R1-Zero 没有冷启动 SFT
- 以为蒸馏版小模型也做了 RL:论文中蒸馏模型只做了 SFT
面试官常见追问
- MLA 如何节省 KV Cache?
- R1 冷启动 SFT 的目的是什么?
- 为什么 MLA 要单独处理 RoPE?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。