Token 预算不足时如何处理超长的多类 JSON 输入
答案要点
- 先扣除系统提示和输出预留,再按数据类型重要性分配 token 额度
- 用代码做字段裁剪、去重,把数值序列预先计算成摘要指标
- 新闻等文本按相关性和时效排序截取,或先用小模型分段摘要
- 用紧凑格式代替冗长 JSON 键名,用分词器实际计数校验是否达标
- 仍超预算时改为外部存储加工具按需检索,或分类型子任务分析后汇总
易错点
- 直接按字符截断 JSON,导致结构破坏或截掉关键字段
- 让模型自己摘要数值数据,出现数字改写或计算错误
- 忘记给系统提示和输出预留 token,实际仍然超限
面试官常见追问
- 摘要会不会丢掉关键风险信息?
- 怎么决定三类数据各分多少预算?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。