通过 SFT 提升模型准确率的常用手段
哪些公司问过
答案要点
- 数据:清洗去重过滤,保证答案正确;调整领域和任务配比,加入通用数据避免遗忘
- 保持多样性,难例挖掘补充错误样本
- 训练:调学习率、批大小、轮数,轮数过多会过拟合;课程学习,序列打包
- 拒绝采样或自蒸馏:多次采样,挑选正确回答加入训练
- 目标:损失掩码,只对回答计算损失;数据量用效果曲线确定,分布贴近真实场景
易错点
- 只加数据量,不看质量
- 训练轮数过多导致过拟合
- 对整个序列都计算损失
面试官常见追问
- SFT 的理想数据量是多少,怎么确定?
- SFT 数据的分布怎么取,为什么?
- 为什么要做损失掩码?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。