面试题库 › 算法 / 大模型 › prefix LM 与 causal LM 的区别

prefix LM 与 causal LM 的区别

难度 ★★★在 2 场真实面经中被问到 方向:算法 / 大模型考点:大模型基础

哪些公司问过

字节跳动1

常见岗位:大模型算法

答案要点

  1. Causal LM:单向注意力,每个 token 只看左侧,自回归预测下一个 token
  2. Prefix LM:前缀内双向注意力,生成部分单向注意力
  3. Prefix LM 对前缀理解更充分,适合先理解再生成的任务
  4. Causal LM 训练简单,每个 token 都参与训练,便于 KV 缓存
  5. 主流大模型多为 decoder-only 的因果结构

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题