面试题库 › 算法 / 大模型 › Encoder-only、Decoder-only 与编解码架构对比

Encoder-only、Decoder-only 与编解码架构对比

难度 ★★☆在 5 场真实面经中被问到 方向:算法 / 大模型考点:大模型结构演进

哪些公司问过

爱奇艺2英伟达1字节跳动1

常见岗位:大模型算法、推理部署与加速

答案要点

  1. Encoder-only 双向注意力,适合理解类任务
  2. Decoder-only 因果掩码,适合自回归生成,规模扩展与通用性好
  3. Encoder-Decoder 通过交叉注意力连接,适合翻译、摘要等序列到序列任务
  4. Decoder 结构还有 Prefix LM:前缀双向、生成部分因果
  5. 分类任务上谁更好取决于规模、数据量和是否微调,需结合推理成本考虑

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题