面试题库 › 算法 / 大模型 › 手写两层神经网络(前向与反向)

手写两层神经网络(前向与反向)

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:训练优化与正则化

哪些公司问过

阿里云1

常见岗位:机器学习算法(泛)

答案要点

  1. 结构:输入 d → 隐藏 h(ReLU)→ 输出 c(softmax),W1:[d,h],W2:[h,c]
  2. 前向:Z1=XW1+b1,A1=ReLU(Z1),Z2=A1W2+b2,P=softmax(Z2),交叉熵损失
  3. 反向:dZ2=(P-Y)/N,dW2=A1^T dZ2,dA1=dZ2 W2^T,dZ1=dA1⊙(Z1>0),dW1=X^T dZ1
  4. 数值稳定:softmax 前减行最大值,log 内加 eps
  5. 随机初始化打破对称,用数值梯度检查验证实现

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题