面试题库 › C++ / 后端 › 调用 LLM 接口失败的重试机制设计

调用 LLM 接口失败的重试机制设计

难度 ★★☆在 1 场真实面经中被问到 方向:C++ / 后端考点:工程化与部署

哪些公司问过

嘉为1

常见岗位:Python 后端

答案要点

  1. 临时性错误(超时、429、5xx)重试,参数和鉴权错误不重试
  2. 指数退避加随机抖动,避免集中重试
  3. 设最大重试次数和整体超时上限
  4. 重试需幂等,有副作用的调用用请求 ID 去重
  5. 配合熔断、备用模型降级和失败率监控

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题