面试题库 › 算法 / 大模型 › 大模型few-shot能力的来源与原理

大模型few-shot能力的来源与原理

难度 ★★★在 1 场真实面经中被问到 方向:算法 / 大模型考点:大模型基础

哪些公司问过

字节跳动1

常见岗位:大模型算法

答案要点

  1. few-shot即上下文学习:不更新参数,靠提示中的示例推断任务
  2. 预训练语料中大量包含示例加新问题的结构,下一词预测迫使模型学会归纳
  3. 解释之一是隐式贝叶斯推断:示例帮助定位潜在任务
  4. 机制研究发现归纳头等注意力电路,也有观点视其为隐式梯度下降
  5. 能力随模型规模增强;对示例格式、顺序、选取和标签分布敏感

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题