面试题库 › Java 后端 › 如何让 LLM Agent 稳定返回 JSON

如何让 LLM Agent 稳定返回 JSON

难度 ★★☆在 2 场真实面经中被问到 方向:Java 后端

哪些公司问过

小鹏1字节跳动1

常见岗位:推荐搜索广告、Java 后端

答案要点

  1. 优先使用结构化输出(JSON Schema 严格模式)或 function calling 约束格式
  2. 自部署模型可用语法约束解码,从 token 层面保证合法
  3. prompt 明确只输出 JSON,给字段说明与 few-shot 示例,并降低 temperature
  4. 解析后用 Pydantic/JSON Schema 校验,失败时修复或携带错误信息重试
  5. 设置最大重试次数与降级策略,记录失败样本迭代优化

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。