面试题库 › 算法 / 大模型 › SwiGLU 激活函数的公式与改进点

SwiGLU 激活函数的公式与改进点

难度 ★★☆在 3 场真实面经中被问到 方向:算法 / 大模型考点:激活函数

哪些公司问过

字节跳动1小红书1阿里云1

常见岗位:机器学习算法(泛)、大模型算法、推荐搜索广告

答案要点

  1. Sigmoid:饱和区梯度消失、非零中心;ReLU:缓解梯度消失但可能神经元死亡
  2. SwiGLU 公式:FFN(x) = (Swish(xW) ⊗ xV)·W2,Swish(x) = x·sigmoid(βx)
  3. 结构:门控支路经 SiLU,与线性支路逐元素相乘,再经下投影
  4. 优势:门控机制增强表达能力,Swish 平滑、负区间仍有梯度
  5. 三个权重矩阵,中间维度常缩到约 8d/3 以保持参数量,LLaMA 等模型采用

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题