面试题库 › 算法 / 大模型 › VQ-VAE 与 RQ-VAE 的损失函数和码本塌陷

VQ-VAE 与 RQ-VAE 的损失函数和码本塌陷

难度 ★★★在 3 场真实面经中被问到 方向:算法 / 大模型考点:生成模型

哪些公司问过

美团2阿里巴巴1

常见岗位:推荐搜索广告、大模型算法

答案要点

  1. 损失:重建损失 + 码本损失 ||sg[z_e]-e||² + 承诺损失 β||z_e-sg[e]||²
  2. 量化不可导,用直通估计把梯度从解码器传到编码器
  3. RQ-VAE 多级残差量化,每级的码本和承诺损失求和
  4. 码本坍缩:少数码字被频繁使用,其余闲置,表达力下降
  5. 缓解:K-means 初始化、重启死码、EMA 更新、余弦距离、低维码字

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题