大模型与传统机器学习/深度学习的区别
哪些公司问过
答案要点
- 架构与规模:大模型多为 Transformer,参数量数十亿以上,传统模型参数少、结构多样
- 训练范式:大模型先自监督预训练再微调对齐;传统模型多为针对单任务的监督学习
- 能力:大模型通用、具备上下文学习(few-shot)和随规模出现的涌现能力
- 成本:大模型训练数据和算力需求高几个数量级,推理成本和延迟也更高
- 适用性:表格数据、强实时、强可解释场景,传统模型依旧常用
易错点
- 把大模型等同于“参数多的深度学习”,忽略自监督预训练加通用任务这一范式变化
- 认为大模型在所有任务上都优于传统模型,忽略成本、延迟和表格数据场景
- 把涌现能力说得过于绝对,它的定义和度量在学界本身有争议
面试官常见追问
- 什么是上下文学习?
- 什么场景下不该用大模型?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。