面试题库 › 算法 / 大模型 › 上下文窗口的限制与注意力稀释现象

上下文窗口的限制与注意力稀释现象

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:长上下文处理

常见岗位:产品经理

答案要点

  1. 上下文窗口是单次可处理的最大 Token 数,含输入和输出
  2. 超出需截断或压缩,未超出时长度增加也可能降低效果
  3. 注意力稀释:关键信息被大量无关 Token 分散权重
  4. Lost in the Middle:中间位置的信息更容易被忽略
  5. 用检索精选内容、关键信息放首尾、摘要压缩来缓解

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题