多轮对话怎么训练和实现
哪些公司问过
答案要点
- 用模板和特殊标记区分系统、用户、助手角色与轮次,自回归训练
- 损失掩码:只对助手回复计算损失,用户和系统内容不计
- 整段对话拼成一条样本、每个回复都算损失,或拆成逐轮样本
- 数据要覆盖指代、追问、改口等依赖上文的多轮情形
- 推理时维护历史并按同样模板拼接,过长则截断或摘要,复用前缀 KV Cache
易错点
- 对整条序列都算损失,包括用户输入
- 训练模板和推理模板不一致
- 只用单轮数据,没有真正依赖上文的样本
面试官常见追问
- 为什么要做损失掩码?
- 对话太长超过上下文窗口怎么办?
- 多轮训练常见的问题有哪些?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。