面试题库 › 算法 / 大模型 › RMSNorm 与 LayerNorm

RMSNorm 与 LayerNorm

难度 ★★★在 9 场真实面经中被问到 方向:算法 / 大模型考点:归一化方法

哪些公司问过

字节跳动2百度1小红书1阿里云1初创公司1

常见岗位:大模型算法、NLP / 语音、推荐搜索广告

答案要点

  1. LayerNorm:对特征维减均值、除以标准差,再乘 γ 加 β
  2. RMSNorm:不减均值,只除以均方根(RMS),再乘 γ,没有偏移 β
  3. 计算更省、速度更快,效果与 LayerNorm 接近
  4. 假设:重新中心化作用有限,缩放不变性才是关键
  5. LLaMA 等大模型广泛使用;需要保留均值信息时仍可用 LayerNorm

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题