面试题库 › 算法 / 大模型 › 上下文窗口是什么及其物理限制

上下文窗口是什么及其物理限制

难度 ★★☆在 6 场真实面经中被问到 方向:算法 / 大模型考点:大模型基础

哪些公司问过

腾讯2字节跳动2AI应用开发1

常见岗位:AI 应用 / Agent 开发

答案要点

  1. 上下文是单次推理可见的 token 序列,含系统提示、历史、检索内容、工具定义与结果
  2. 窗口是输入加输出的最大 token 数,模型无状态,会话记忆靠应用层拼接历史
  3. 物理限制:注意力平方复杂度、KV Cache 显存线性增长、训练长度限制位置外推
  4. 长上下文增加延迟和成本,并可能出现中间信息利用变差
  5. 超出窗口需截断、摘要或检索,工程上要做 token 预算管理

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题