RAG 问答服务的后端组件与超时预算
哪些公司问过
答案要点
- 调用顺序:query 向量化→向量检索与关键词检索并行→融合去重→重排→LLM 生成
- 超时预算按链路分配:编码、检索、重排各几十到几百毫秒,生成按首 token 与总时长分开控制
- 降级策略:单路检索超时用另一路结果,重排超时用融合顺序,生成超时返回兜底
- 总预算向下传递:下游超时取剩余预算,配合缓存、熔断、限流
- 关键词检索常用 BM25,与向量检索互补处理专有名词和精确匹配
易错点
- 各环节串行调用,没把向量检索和关键词检索并行
- 只设单步超时,不设端到端总预算和降级路径
- 把示例数值当成标准答案,实际预算应由压测和 SLA 决定
面试官常见追问
- 关键词检索会选哪种算法?为什么?
- 大规模文档库下如何优化余弦相似度计算?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。