大模型选型策略:如何选择合适的模型
哪些公司问过
答案要点
- 先明确任务类型与延迟、成本、合规等约束
- 数据合规决定走闭源 API 还是开源私有化部署
- 用业务评测集对比效果,而非只看公开榜单
- 同时评估延迟、吞吐、成本和上下文长度
- 考虑微调蒸馏可行性、生态和长期维护,常用大小模型组合
易错点
- 只看榜单排名选模型
- 忽略成本和延迟,上线后扛不住调用量
- 没有考虑数据合规就选了外部 API
面试官常见追问
- 开源自部署和闭源 API 怎么权衡?
- 评测集怎么搭?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。