面试题库 › 算法 / 大模型 › 大模型训练数据的质量评估与过滤方法

大模型训练数据的质量评估与过滤方法

难度 ★★☆在 4 场真实面经中被问到 方向:算法 / 大模型考点:预训练模型

哪些公司问过

字节跳动1MiniMax1阿里健康1

常见岗位:大模型算法

答案要点

  1. 质量维度:正确性、一致性、信息量、多样性与覆盖度、安全合规
  2. 启发式规则:语言识别、长度、符号比例、重复 n-gram、URL 黑名单等
  3. 去重:精确哈希加 MinHash LSH 近似去重,并与评测集去重防污染
  4. 模型过滤:困惑度过滤、fastText 质量分类器、大模型打分后蒸馏为小分类器
  5. 量化评估:抽检合格率与分数分布,最终用小模型消融看下游指标

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题