面试题库 › 算法 / 大模型 › RQ-VAE 的流程、损失与梯度传播

RQ-VAE 的流程、损失与梯度传播

难度 ★★★在 2 场真实面经中被问到 方向:算法 / 大模型考点:生成式推荐

哪些公司问过

哔哩哔哩2

常见岗位:推荐搜索广告

答案要点

  1. 流程:编码,多级残差量化,下标组成语义 ID,解码重建
  2. 每级对上一级残差量化,各级码字之和为量化向量
  3. 损失:重建损失、码本损失、承诺损失,后两者用 stop gradient 区分更新对象
  4. 量化取最近码字不可导,用直通估计 STE 把梯度复制回编码器
  5. 需要防止码本坍缩,如 k-means 初始化、重置闲置码字

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题