GPT 系列支持多长的上下文
哪些公司问过
答案要点
- 上下文长度按模型版本区分,单位是token,中文一个字可能对应一到多个token
- GPT-3.5-turbo有4K和16K版本,GPT-4有8K和32K版本
- GPT-4 Turbo、GPT-4o为128K,GPT-4.1系列API约100万token
- 上下文窗口由输入和输出共享,最大输出长度单独限制
- 长上下文存在信息利用不均、成本和延迟上升问题,常与RAG结合使用
易错点
- 把token数等同于汉字数
- 只说一个固定数字,不区分模型版本和API与产品端差异
- 以为窗口越大效果一定越好,忽视中间信息丢失和成本
面试官常见追问
- 上下文窗口和最大输出长度是什么关系?
- 有了很长的上下文还需要RAG吗?
- 模型是怎么支持到更长上下文的?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。