面试题库 › 算法 / 大模型 › Agent 的 Token 消耗暴涨,怎么定位和优化

Agent 的 Token 消耗暴涨,怎么定位和优化

难度 ★★★在 9 场真实面经中被问到 方向:算法 / 大模型考点:工程化与部署

哪些公司问过

腾讯2字节跳动2影石1哔哩哔哩1bilibili1大疆创新1

常见岗位:AI 应用 / Agent 开发、大模型算法、推荐搜索广告

答案要点

  1. 按调用链埋点,统计每步输入输出 token、轮次、工具调用次数,找热点
  2. 常见原因:历史无限累积、工具输出过大、循环重试、提示词和工具描述过长、重复检索
  3. 压缩历史:摘要或滑动窗口;工具输出截断、分页或只返回关键字段
  4. 提示词缓存:稳定前缀放前面;限制最大轮数,检测重复调用
  5. 简单步骤用小模型;设置监控和告警

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题