面试题库 › 算法 / 大模型 › Prompt Tuning、P-Tuning、Prefix Tuning 对比

Prompt Tuning、P-Tuning、Prefix Tuning 对比

难度 ★★☆在 5 场真实面经中被问到 方向:算法 / 大模型考点:参数高效微调

哪些公司问过

美团1字节跳动1京东1携程1度小满1

常见岗位:大模型算法、NLP / 语音

答案要点

  1. Prompt Tuning:仅输入层加可训练软提示,参数最少,小模型上效果有限
  2. P-Tuning v1:输入层连续提示,用 LSTM 或 MLP 提示编码器
  3. Prefix Tuning:每层注意力的 K、V 前加可训练前缀,用 MLP 重参数化稳定训练
  4. P-Tuning v2:每层加深层提示,去掉重参数化,跨规模和序列标注任务接近全量微调
  5. LoRA 在权重上加低秩增量,可合并、不占上下文长度,多数场景更常用

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题