面试题库 › 算法 / 大模型 › 内容安全评测集如何构建

内容安全评测集如何构建

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:模型评测

哪些公司问过

腾讯1

常见岗位:AI 应用 / Agent 开发

答案要点

  1. 风险分类体系:依据法规与平台政策分大类和子类,各类样本量均衡
  2. 样本来源:线上日志脱敏抽样、人工构造、越狱和对抗样本
  3. 加入应正常回答的边界样本,衡量过度拒答
  4. 标注规范加多人一致性校验,分歧样本专家仲裁
  5. 定期更新攻击手法,保留不公开的保留集防止污染

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题