面试题库 › 算法 / 大模型 › 为何区分系统提示、用户消息与工具结果

为何区分系统提示、用户消息与工具结果

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:提示工程

哪些公司问过

去哪儿1

常见岗位:AI 应用 / Agent 开发

答案要点

  1. 系统提示:开发者定义角色、边界和格式,可信度最高
  2. 用户消息:真实需求来源,但可能含越狱或注入,需与系统指令隔离
  3. 工具结果:外部数据,可信度最低,只作信息参考,不应被当作指令执行
  4. 通过对话模板的角色标记和指令层级训练,让模型在冲突时优先遵循高优先级指令
  5. 角色区分只是降低风险,还需权限最小化、人工确认、内容过滤等纵深防御

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题