面试题库 › 算法 / 大模型 › Swin Transformer 的原理

Swin Transformer 的原理

难度 ★★★在 2 场真实面经中被问到 方向:算法 / 大模型考点:视觉与多模态模型

哪些公司问过

字节跳动2

常见岗位:大模型算法

答案要点

  1. 层次化结构:patch merging 逐级下采样,得到多尺度特征
  2. 窗口自注意力:只在局部窗口内计算,复杂度与图像大小成线性
  3. 移位窗口:相邻层交替常规窗口和移位窗口,实现跨窗口信息交互
  4. 循环移位加掩码高效实现;使用相对位置偏置
  5. 适合检测、分割等密集预测任务

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题