推荐系统中常见的注意力机制
哪些公司问过
答案要点
- 目标注意力:DIN 用候选物品对历史行为加权,不做 softmax 以保留兴趣强度
- DIEN 用 GRU 抽取兴趣,再用带注意力更新门的 AUGRU 建模兴趣演化
- 序列自注意力:BST 用 Transformer,DSIN 按会话建模,SIM 先检索再做注意力
- 特征交互注意力:AFM 加权二阶交叉,AutoInt 用多头自注意力学高阶交叉
- MMoE、PLE 的门控网络可视为对专家的注意力加权
易错点
- 把 DIN 的注意力说成标准 softmax 注意力
- 混淆目标注意力与序列自注意力的作用
- 忽略长序列下注意力的计算成本,需要检索或截断
面试官常见追问
- 介绍一下 MMoE、PLE、ESMM。
- DIN 为什么不对注意力权重做 softmax?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。