面试题库 › 算法 / 大模型 › 对比学习代表工作与发展脉络

对比学习代表工作与发展脉络

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:表示与对比学习

哪些公司问过

字节跳动1

常见岗位:大模型算法

答案要点

  1. 早期:实例判别,InstDisc 用 memory bank 存负样本;CPC 提出 InfoNCE 损失
  2. MoCo:动量编码器 + 负样本队列,不依赖大 batch 获得大量且一致的负样本
  3. SimCLR:大 batch 批内负样本、强数据增强组合、投影头、NT-Xent 损失
  4. 去负样本:BYOL 用预测器 + 动量目标网络,SimSiam 表明停止梯度是防坍塌关键
  5. 后续:SwAV、Barlow Twins、DINO、MoCo v3 扩展到 ViT,与 MAE 并行发展;CLIP 用于图文

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题