神经网络权重能否初始化为 0
哪些公司问过
答案要点
- 同层权重不能相同(包括全 0),否则神经元输出相同、梯度相同
- 对称性无法打破,多个神经元退化为一个,学不到多样特征
- 需随机初始化并控制方差:tanh/sigmoid 用 Xavier,ReLU 用 He
- 偏置可以初始化为 0,权重随机已打破对称
- 无隐藏层的模型(如逻辑回归)权重初始化为 0 没有问题
易错点
- 只说“不能为 0”,不说明本质是同层权重相同导致对称
- 认为偏置也必须随机初始化
- 把结论推广到逻辑回归等没有隐藏层的模型
面试官常见追问
- Mini-batch 的作用是什么?
- 随机初始化方差太大或太小会怎样?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。