大模型few-shot能力的来源与原理
哪些公司问过
答案要点
- few-shot即上下文学习:不更新参数,靠提示中的示例推断任务
- 预训练语料中大量包含示例加新问题的结构,下一词预测迫使模型学会归纳
- 解释之一是隐式贝叶斯推断:示例帮助定位潜在任务
- 机制研究发现归纳头等注意力电路,也有观点视其为隐式梯度下降
- 能力随模型规模增强;对示例格式、顺序、选取和标签分布敏感
易错点
- 把few-shot说成模型在推理时更新了参数
- 认为示例越多一定越好,忽略上下文长度和噪声示例
- 忽视示例顺序和标签分布带来的偏差
面试官常见追问
- 示例的标签写错了,few-shot还有效吗?
- few-shot和微调怎么选?
- 怎么挑选few-shot示例?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。