ViT 与 CNN 的对比
哪些公司问过
答案要点
- CNN:局部卷积,局部性和平移不变性,参数共享,小数据易训练
- ViT:切 patch 送入 Transformer,自注意力有全局感受野
- ViT 缺少归纳偏置,需要大量数据预训练;可扩展性好,上限高
- 自注意力计算量随 patch 数平方增长
- 数据少或需轻量部署选 CNN;数据充足、追求精度或多模态选 ViT
易错点
- 说 ViT 在任何情况下都优于 CNN
- 不提归纳偏置的差别
- 忽略注意力的平方复杂度
面试官常见追问
- 为什么 ViT 在小数据集上不如 CNN?
- 怎么降低 ViT 的计算成本?
- 有没有结合两者的方法?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。