面试题库 › Go 后端 › 调用大模型 token 超限与结构化输出保障

调用大模型 token 超限与结构化输出保障

难度 ★★☆在 1 场真实面经中被问到 方向:Go 后端考点:工程化与部署

哪些公司问过

cherry studio1

常见岗位:Go 后端

答案要点

  1. 区分单次超上下文窗口与账号配额、限频两类超限
  2. 超长时裁剪压缩输入、用检索只送相关片段、分块汇总,并限制输出长度
  3. 配额限频时指数退避重试、排队、降级到更大或更省的模型
  4. 结构化输出优先用 JSON 模式或函数调用,提示里给明确字段和示例
  5. 输出用 Schema 校验,失败则容错解析或带错误重试,并保留兜底结构

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题