RNN 与 LSTM 的原理及区别
哪些公司问过
答案要点
- RNN:隐状态由当前输入和上一时刻隐状态决定,参数共享
- 通过时间反向传播,长序列梯度消失或爆炸,难学长依赖
- LSTM 引入细胞状态和三个门:遗忘门、输入门、输出门
- 门用 sigmoid,细胞状态加法更新,梯度更容易传播
- 代价:参数多、计算慢、难以并行,被 Transformer 取代
易错点
- 说 LSTM 完全解决了梯度问题
- 分不清三个门各自的作用
- 门的激活函数说成 tanh
面试官常见追问
- 输入门的输入是什么?
- 遗忘门的激活函数是什么?
- GRU 和 LSTM 有什么区别?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。