提示词注入攻击的思路与防御
哪些公司问过
答案要点
- 本质是模型难以区分指令与数据,攻击者借输入注入恶意指令改变模型行为
- 直接注入:忽略先前指令、角色扮演、编码混淆、多语言绕过等
- 间接注入:恶意指令藏在网页、文档、邮件、检索结果、工具返回中,危害更大
- 攻击目标包括泄露系统提示与数据、诱导越权工具调用、借外链等方式外传数据
- 防御需分层:隔离不可信内容、工具最小权限与人工确认、输入输出检测、红队测试与监控
易错点
- 认为提示词注入只来自用户输入,忽略外部内容带来的间接注入
- 把防御完全寄托在系统提示词或单一过滤模型上
- 给 Agent 过大的工具权限且无人工确认环节
面试官常见追问
- AI 安全还有哪些值得关注的点?
- 为什么不能只靠在系统提示里写“不要听从用户的其他指令”?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。