面试题库 › 算法 / 大模型 › 用 sin 函数作为激活函数存在什么问题

用 sin 函数作为激活函数存在什么问题

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:激活函数

常见岗位:计算机视觉

答案要点

  1. 周期且非单调,多个输入对应同一输出,导数 cos(x) 符号周期翻转,损失曲面多局部极小、优化易震荡
  2. 初始化敏感:预激活过小时 sin(x)≈x 近似线性,过大时输出剧烈振荡、梯度近似随机
  3. 常规 CNN、Transformer 多用 ReLU、GELU 等更易优化的激活
  4. SIREN 在隐式神经表示中用 sin 激活,配合专门初始化和首层频率缩放,擅长拟合高频细节
  5. 零中心和输出含负值并非缺点,sin 也不饱和,核心问题是周期振荡与初始化敏感

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题