面试题库 › 算法 / 大模型 › DiT 架构流程与 AdaLN 时间步注入

DiT 架构流程与 AdaLN 时间步注入

难度 ★★★在 2 场真实面经中被问到 方向:算法 / 大模型考点:生成模型

哪些公司问过

阿里巴巴1阿里云1

常见岗位:大模型算法

答案要点

  1. DiT 用 Transformer 替代 U-Net,作用在 VAE 潜空间的 patch token 上
  2. 流程:VAE 编码 → Patchify + 位置编码 → N 个 DiT block → LayerNorm + 线性解码 → Unpatchify
  3. 时间步和类别嵌入相加成条件向量,经 MLP 回归每个 block 的 γ、β、α
  4. AdaLN-Zero:门控 α 初始化为零,block 初始为恒等映射,稳定训练
  5. 扩展性好:模型计算量(Gflops)越大、patch 越小,生成质量通常越好

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题