多轮对话流式接口与 SSE 断线重连设计
哪些公司问过
答案要点
- SSE 基于 HTTP 单向推送,响应头 text/event-stream、no-cache,关闭代理缓冲并逐 chunk flush
- 多轮对话:按会话 ID 读取历史拼接上下文,生成完成后写回,同一会话加锁串行
- 生成与连接解耦:后台任务生成,事件带递增 id 写入缓冲(如 Redis Stream)
- 断线后客户端携带 Last-Event-ID 重连,网关从该 id 之后重放
- 心跳保活,客户端断开超时后取消生成并清理资源
易错点
- 经过 Nginx 时未关闭缓冲,前端看不到流式效果
- 生成绑定在连接上,客户端一断开就丢失全部输出
- 客户端断开后不取消生成,持续消耗模型配额
面试官常见追问
- SSE 和 WebSocket 怎么选?
- 浏览器 EventSource 只支持 GET,带长消息怎么办?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。