高敏感操作的 Human-in-the-loop 设计
哪些公司问过
答案要点
- 工具分级:只读操作自动执行,不可逆或高风险操作强制人工审批
- 原则:默认拒绝、最小权限、可审计、可回滚,超阈值或风控命中必须介入
- 实现:在敏感节点 interrupt 中断执行,checkpointer 持久化状态
- 人工批准、修改或拒绝后通过恢复接口注入决定,从断点继续
- 保障:审批超时默认拒绝、幂等防重复扣款、完整审计日志
易错点
- 靠 prompt 让模型“自觉”请求确认,没有在执行层强制拦截
- 恢复执行不做幂等,导致重复支付
- 审批界面不展示完整参数,审批流于形式
面试官常见追问
- 为什么需要持久化状态,而不是同步等待?
- 如何防止模型绕过审批?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。