面试题库 › 算法 / 大模型 › ViT 的原理与结构

ViT 的原理与结构

难度 ★★☆在 11 场真实面经中被问到 方向:算法 / 大模型考点:视觉与多模态模型

哪些公司问过

字节跳动2百度2地平线1小米1华为1拼多多1阿里巴巴1小红书1多益网络1

常见岗位:大模型算法、计算机视觉、推荐搜索广告

答案要点

  1. 把图像切成固定大小的 patch,线性投影成序列向量
  2. 加可学习的位置编码,并在序列前加入 CLS token
  3. 送入标准 Transformer 编码器:多头自注意力与 MLP 交替
  4. 取 CLS 的输出接 MLP 头做分类
  5. 优点是可扩展、效果好;缺点是缺少归纳偏置,依赖大数据预训练

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题