面试题库 › 算法 / 大模型 › RoBERTa 相比 BERT 的改进

RoBERTa 相比 BERT 的改进

难度 ★★☆在 2 场真实面经中被问到 方向:算法 / 大模型考点:预训练模型

哪些公司问过

腾讯1美团1

常见岗位:NLP / 语音

答案要点

  1. 结构不变,改进预训练方法
  2. 更多数据、更大批量、训练更久
  3. 去掉下一句预测,只保留掩码语言模型
  4. 动态掩码:每次输入重新生成掩码
  5. 字节级 BPE 与更大词表,使用更长序列;在 GLUE 等基准上超过 BERT

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题