什么是梯度,梯度下降在做什么
哪些公司问过
答案要点
- 梯度是各偏导数组成的向量,指向函数增长最快的方向
- 梯度下降沿负梯度更新:θ ← θ - η·∇L(θ)
- 学习率决定步长,过大震荡发散,过小收敛慢
- 分批量、随机、小批量三种,深度学习常用小批量,梯度由反向传播计算
- 动量、Adam 等是改进版;非凸问题通常只能收敛到局部解
易错点
- 说成沿梯度方向更新,方向反了
- 以为梯度下降一定能找到全局最优
- 把梯度和学习率的作用混淆
面试官常见追问
- 为什么负梯度方向是下降最快的方向?
- 随机梯度下降相比批量梯度下降有什么特点?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。