面试题库 › 算法 / 大模型 › seq2seq 模型的结构

seq2seq 模型的结构

难度 ★★☆在 2 场真实面经中被问到 方向:算法 / 大模型考点:循环神经网络

哪些公司问过

网易考拉2

常见岗位:NLP / 语音

答案要点

  1. 编码器加解码器框架,处理输入输出长度不同的序列任务
  2. 编码器用 RNN、LSTM、GRU,把输入压缩成固定长度的上下文向量
  3. 解码器以上下文向量为初始状态,逐步生成输出直到结束标记
  4. 训练用 teacher forcing,推理用束搜索
  5. 固定向量是瓶颈,引入注意力机制,让解码器动态关注输入,进而发展出 Transformer

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题