面试题库 › 算法 / 大模型 › 多轮对话怎么训练和实现

多轮对话怎么训练和实现

难度 ★★☆在 5 场真实面经中被问到 方向:算法 / 大模型考点:监督微调

哪些公司问过

字节跳动2百度1新能源汽车公司1AI岗位1

常见岗位:AI 应用 / Agent 开发、大模型算法、NLP / 语音

答案要点

  1. 用模板和特殊标记区分系统、用户、助手角色与轮次,自回归训练
  2. 损失掩码:只对助手回复计算损失,用户和系统内容不计
  3. 整段对话拼成一条样本、每个回复都算损失,或拆成逐轮样本
  4. 数据要覆盖指代、追问、改口等依赖上文的多轮情形
  5. 推理时维护历史并按同样模板拼接,过长则截断或摘要,复用前缀 KV Cache

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题