如何防止 Agent 泄露敏感信息
哪些公司问过
答案要点
- 输入过滤:用正则、NER 或分类器识别 PII 和密钥,脱敏或拒绝
- 同时检测提示注入,防止外部内容诱导泄露
- 输出脱敏:扫描回复,掩码敏感字段,防止回显系统提示词和内部数据
- 最小权限:限制数据源和工具范围,按用户做数据隔离,高风险操作人工确认
- 日志和缓存也要脱敏,不能只依赖模型自身约束
易错点
- 只靠在系统提示里写“不要泄露”
- 只做输入过滤,不检查输出
- 工具权限过大,没有按最小权限设计
- 忽略日志和缓存里的敏感信息
面试官常见追问
- 提示注入怎么导致泄露?
- 脱敏用正则够吗?
- 多租户场景下怎么避免串数据?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。