面试题库 › 算法 / 大模型 › LSTM 与 Transformer 的差异

LSTM 与 Transformer 的差异

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:循环神经网络

哪些公司问过

蚂蚁集团1

常见岗位:机器学习算法(泛)

答案要点

  1. 结构:LSTM 循环串行、门控记忆;Transformer 自注意力并行
  2. 依赖建模:LSTM 远距离信息需多步传递,Transformer 任意位置一步交互
  3. Transformer 无循环,需要位置编码;训练可沿序列并行
  4. 复杂度:自注意力 O(n²),LSTM O(n),推理时 LSTM 状态大小固定
  5. 适用:Transformer 擅长大数据长文本,LSTM 适合小数据、流式和端侧

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题