面试题库 › 算法 / 大模型 › 如何防止 Agent 泄露敏感信息

如何防止 Agent 泄露敏感信息

难度 ★★☆在 7 场真实面经中被问到 方向:算法 / 大模型考点:安全与权限

哪些公司问过

快手4B站1阿里云1

常见岗位:AI 应用 / Agent 开发

答案要点

  1. 输入过滤:用正则、NER 或分类器识别 PII 和密钥,脱敏或拒绝
  2. 同时检测提示注入,防止外部内容诱导泄露
  3. 输出脱敏:扫描回复,掩码敏感字段,防止回显系统提示词和内部数据
  4. 最小权限:限制数据源和工具范围,按用户做数据隔离,高风险操作人工确认
  5. 日志和缓存也要脱敏,不能只依赖模型自身约束

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题