seq2seq 模型的结构
哪些公司问过
网易考拉2
答案要点
- 编码器加解码器框架,处理输入输出长度不同的序列任务
- 编码器用 RNN、LSTM、GRU,把输入压缩成固定长度的上下文向量
- 解码器以上下文向量为初始状态,逐步生成输出直到结束标记
- 训练用 teacher forcing,推理用束搜索
- 固定向量是瓶颈,引入注意力机制,让解码器动态关注输入,进而发展出 Transformer
易错点
- 说不出固定长度向量的瓶颈
- 忽略训练和推理的不同
- 不提注意力机制的作用
面试官常见追问
- 什么是 teacher forcing?
- 注意力机制解决了什么问题?
- 束搜索是什么?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。