面试题库 › 算法 / 大模型 › 神经网络权重能否初始化为 0

神经网络权重能否初始化为 0

难度 ★☆☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:训练优化与正则化

哪些公司问过

vivo1

常见岗位:机器学习算法(泛)

答案要点

  1. 同层权重不能相同(包括全 0),否则神经元输出相同、梯度相同
  2. 对称性无法打破,多个神经元退化为一个,学不到多样特征
  3. 需随机初始化并控制方差:tanh/sigmoid 用 Xavier,ReLU 用 He
  4. 偏置可以初始化为 0,权重随机已打破对称
  5. 无隐藏层的模型(如逻辑回归)权重初始化为 0 没有问题

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题