MMoE、PLE 与 Shared-Bottom 多任务模型对比
哪些公司问过
答案要点
- Shared-Bottom:底层共享、上层任务塔,任务冲突时会负迁移
- MMoE:多个专家加每个任务一个门控,软共享,缓解任务冲突
- PLE:区分共享专家和任务专属专家,分层提取,减轻跷跷板现象
- 专家坍缩:门控集中到少数专家,专家利用不足
- 缓解:门控 dropout、负载均衡或熵正则、调整专家数量
易错点
- 只说 MMoE 加了专家,不说门控是每个任务一个
- 分不清共享专家和任务专属专家
- 说不出专家坍缩的原因和缓解方法
面试官常见追问
- 跷跷板现象是什么?
- 专家坍缩为什么会发生?
- 多任务的损失怎么加权?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。