为何区分系统提示、用户消息与工具结果
哪些公司问过
答案要点
- 系统提示:开发者定义角色、边界和格式,可信度最高
- 用户消息:真实需求来源,但可能含越狱或注入,需与系统指令隔离
- 工具结果:外部数据,可信度最低,只作信息参考,不应被当作指令执行
- 通过对话模板的角色标记和指令层级训练,让模型在冲突时优先遵循高优先级指令
- 角色区分只是降低风险,还需权限最小化、人工确认、内容过滤等纵深防御
易错点
- 认为写进系统提示就绝对安全,忽略模型仍可能被绕过
- 把检索或工具返回内容拼进系统提示,抬高了不可信数据的权限
- 只讲安全,忽略角色区分对格式稳定和上下文管理的作用
面试官常见追问
- 间接提示注入是什么?
- 系统提示能保证不被覆盖吗?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。