Qwen3 的改进与特点
哪些公司问过
答案要点
- 模型家族:0.6B 至 32B 稠密模型,加 30B-A3B、235B-A22B 两个 MoE 模型
- 混合思考模式:同一模型支持思考与非思考两种模式,可按需切换
- 结构:GQA、SwiGLU、RoPE、RMSNorm,用 QK-Norm 替代 QKV 偏置
- MoE 设 128 个专家、每 token 激活 8 个,不使用共享专家
- Qwen3-Coder 旗舰为 480B 总参、35B 激活的 MoE,160 个专家激活 8 个
易错点
- 混淆 MoE 的总参数和激活参数,例如把 235B-A22B 说成每次激活 235B
- 认为 Qwen3 和 R1 一样用 MLA,实际 Qwen3 用的是 GQA
- 把初版 Qwen3 的混合思考说成两个独立模型,它是同一模型内切换
面试官常见追问
- Qwen3-Coder 的架构是什么?包含多少个专家?
- Qwen3 和 DeepSeek-R1 有什么区别?
- 混合思考模式是怎么训练出来的?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。