面试题库 › 算法 / 大模型 › 什么业务用大模型,什么业务用小模型

什么业务用大模型,什么业务用小模型

难度 ★★☆在 3 场真实面经中被问到 方向:算法 / 大模型考点:Agent设计与场景

哪些公司问过

美团2字节跳动1

常见岗位:大模型算法、商业、产品经理

答案要点

  1. 大模型:开放域、复杂语义、推理泛化、生成任务,标注数据需求少
  2. 小模型:任务固定、高并发低延迟、成本敏感、隐私或端侧部署
  3. 综合考虑效果、数据、延迟吞吐、算力预算、隐私合规
  4. 可用大模型生成数据,蒸馏或微调到小模型
  5. 路由策略:简单请求走小模型,复杂请求走大模型

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题