对比学习代表工作与发展脉络
哪些公司问过
答案要点
- 早期:实例判别,InstDisc 用 memory bank 存负样本;CPC 提出 InfoNCE 损失
- MoCo:动量编码器 + 负样本队列,不依赖大 batch 获得大量且一致的负样本
- SimCLR:大 batch 批内负样本、强数据增强组合、投影头、NT-Xent 损失
- 去负样本:BYOL 用预测器 + 动量目标网络,SimSiam 表明停止梯度是防坍塌关键
- 后续:SwAV、Barlow Twins、DINO、MoCo v3 扩展到 ViT,与 MAE 并行发展;CLIP 用于图文
易错点
- 把 MoCo 的队列和 InstDisc 的 memory bank 混为一谈,前者配合动量编码器保持特征一致
- 认为 BYOL 完全不需要任何防坍塌设计
- 只罗列论文名,不讲每个工作解决了前一个的什么问题
面试官常见追问
- BYOL 和 SimSiam 为什么不用负样本也不会坍塌?
- 温度系数在 InfoNCE 里起什么作用?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。