Node.js 服务如何与 Python 模型服务通信
哪些公司问过
答案要点
- HTTP/REST:FastAPI/Flask 暴露接口,Node 用 fetch/axios 调用,可用 SSE 流式返回
- gRPC:proto 定义接口、HTTP/2、支持流式、序列化高效
- 消息队列:长耗时任务异步化,返回任务 ID,结果回写后轮询或推送
- 可靠性:超时、有限重试、限流排队、连接复用、统一错误码
- 运维:健康检查、链路追踪、模型服务独立扩缩容
易错点
- 不设超时,模型服务卡住拖垮 Node 服务
- 对非幂等的推理写入请求无脑重试
- 大张量用 JSON 文本传输,序列化开销大
面试官常见追问
- REST 和 gRPC 怎么选?
- Python 模型服务并发上不去怎么办?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。