LSTM 的结构与三个门
哪些公司问过
答案要点
- LSTM 用门控和细胞状态解决 RNN 的长依赖与梯度消失问题
- 遗忘门:决定丢弃多少旧的细胞状态
- 输入门:决定当前输入有多少写入细胞状态(配合 tanh 候选值)
- 输出门:决定细胞状态有多少输出为隐藏状态
- 三个门的输入都是 [h(t-1), x(t)];C(t) = f·C(t-1) + i·C~(t);h(t) = o·tanh(C(t))
易错点
- 把三个门说成三个不同的网络结构,不说明作用
- 分不清细胞状态与隐藏状态
- 说 LSTM 完全没有梯度消失问题
- 忘了门用的是 sigmoid
面试官常见追问
- 输入门的输入是什么?
- LSTM 为什么能缓解梯度消失?
- LSTM 可以用什么模型代替?
- LSTM 和 RNN 比有什么缺点?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。