多任务学习的损失设计、权重调节与任务冲突
哪些公司问过
答案要点
- 总损失为各任务损失加权和,共享底层、任务独立头联合训练
- 手工调权:先对齐损失量级,再按业务优先级在验证集调整
- 稀疏任务如 CVR 可降低或动态调整权重,减少噪声梯度干扰
- 自动加权方法有不确定性加权、GradNorm 等
- 缓解冲突:MMoE/PLE 结构解耦、PCGrad 梯度投影、分任务学习率
易错点
- 各任务损失量级差别很大时直接相加
- 只看总损失,不看各任务单独指标
- 说多任务一定比单任务好,忽略负迁移
面试官常见追问
- 自研模块接入在哪一层,和原生 MMoE 有何区别?
- 项目落地的核心难题和解决方案怎么讲?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。