通用大模型与垂类小模型的分工与落地
哪些公司问过
答案要点
- 通用大模型:开放任务、复杂推理、规划调度和长尾需求
- 垂类小模型:领域微调或蒸馏后高精度、低延迟、低成本,可私有化部署
- 企业落地常见组合:大模型验证需求、积累数据,再把高频明确环节换成小模型降本
- Agent 架构中大模型负责路由调度,小模型和工具负责具体执行
- 选型依据:数据敏感度、调用量、延迟、算力预算和运维能力
易错点
- 给出非此即彼的结论,不讨论组合使用
- 只谈技术,忽略合规、成本和运维能力
- 忽略小模型需要持续的数据和评测投入
面试官常见追问
- 怎么从大模型得到垂类小模型?
- 什么情况下不该用小模型?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。