面试题库 › C++ / 后端 › 生成式召回在低延迟推荐链路中如何落地

生成式召回在低延迟推荐链路中如何落地

难度 ★★★在 2 场真实面经中被问到 方向:C++ / 后端考点:生成式推荐

哪些公司问过

字节跳动2

答案要点

  1. 生成式召回常把物品编码为语义 ID(如 RQ-VAE 分层量化),自回归生成后用束搜索得到候选
  2. 延迟主要来自逐步解码,层数、束宽和模型规模直接决定开销
  3. 模型侧用小规模专用模型,结合蒸馏、量化、KV cache 降低推理成本
  4. 前缀树约束解码保证生成合法 ID;近线预计算和缓存减少在线计算
  5. 作为一路新召回与双塔、倒排并行,设超时降级,用 A/B 实验权衡效果与延迟

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题