面试题库 › C++ / 后端 › 大模型为何更关注提示的开头和结尾

大模型为何更关注提示的开头和结尾

难度 ★★★在 1 场真实面经中被问到 方向:C++ / 后端考点:长上下文处理

哪些公司问过

宁波银行1

常见岗位:商业

答案要点

  1. 研究(如《Lost in the Middle》)发现关键信息位于中间时效果下降,呈 U 型
  2. 因果注意力下开头 token 被所有位置可见,易形成注意力汇聚点
  3. 近因效应:结尾靠近生成位置,且通常是问题本身
  4. 位置编码(如 RoPE)随相对距离衰减,中间远处信号较弱
  5. 实践:关键指令放开头、问题放结尾,重要文档排两端,控制上下文长度

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题