Prompt Injection 的原理与防御
哪些公司问过
答案要点
- 原理:模型无法从根本上区分指令和数据,恶意指令覆盖或篡改系统提示
- 直接注入来自用户输入;间接注入藏在网页、文档、邮件、工具返回中,更隐蔽
- 输入过滤和转义,用分隔符隔离不可信内容;加固系统提示;输出校验
- 核心是权限控制:最小权限、高危操作人工确认、沙箱执行
- 辅以检测模型和护栏;不能只靠提示词,因为模型行为是概率性的
易错点
- 认为在系统提示里写规则就能完全防住
- 只讲直接注入,忽略间接注入
- 没有最小权限和人工确认兜底
面试官常见追问
- 为什么不能只靠提示词防御?
- 间接注入有什么例子?
- 怎么降低间接注入的影响?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。