面试题库 › 算法 / 大模型 › 召回-重排-生成与单次生成的延迟质量权衡

召回-重排-生成与单次生成的延迟质量权衡

难度 ★★☆在 2 场真实面经中被问到 方向:算法 / 大模型考点:大模型推理服务

哪些公司问过

字节跳动2

常见岗位:大模型算法

答案要点

  1. 多阶段链路:召回保证覆盖、重排提升相关性、生成负责组织答案,精度高但延迟和成本更高
  2. 单次生成链路短、延迟低,但依赖模型自身知识,领域问题上容易幻觉
  3. 按场景选择:实时性强、容错高用短链路;知识密集、要求准确用召回加重排
  4. 优化手段:并行召回、控制重排候选数、轻量重排模型、语义缓存、流式输出、量化蒸馏
  5. 可做分级路由或混合架构,并用离线指标与线上P99延迟共同评估

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题