Agent 的可解释性与决策透明
答案要点
- 难点:多步决策链路长,模型内部推理是黑盒,出错难定位到具体步骤
- 全链路 trace:记录每步的输入、输出、工具名、参数和返回结果,可回放可审计
- 显式依据:让模型给出调用理由和引用来源,但自述推理不等于真实因果
- 人在回路:高风险操作设置人工审批节点,配合权限控制与操作白名单
- 取舍:透明度提升会带来存储、延迟和自主性下降,按风险等级分级实施
易错点
- 把模型输出的思维链当成真实决策原因,它只是可参考的自述
- 只记录最终回答,不记录中间工具调用和返回,事后无法排查
- 所有步骤都要求人工审批,Agent 失去自动化价值
面试官常见追问
- 怎么判断 Agent 某次失败是哪一步出的问题?
- 把思维链直接展示给用户有什么风险?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。