面试题库 › 算法 / 大模型 › 长上下文模型的适用场景与主要代价

长上下文模型的适用场景与主要代价

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:长上下文处理

常见岗位:产品经理

答案要点

  1. 适合长文档分析、代码库理解、长对话和长 Agent 轨迹
  2. 好处是免切块,避免检索漏召回和语义割裂
  3. 自注意力计算随长度平方增长,预填充慢、首 Token 延迟高
  4. KV Cache 随长度线性增长,占显存、限制并发,且按 Token 计费成本高
  5. 长度越长有效利用率可能下降,常与 RAG 互补使用

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题