面试题库 › 算法 / 大模型 › 多模态数据的类型、处理与对齐方式

多模态数据的类型、处理与对齐方式

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:视觉与多模态模型

哪些公司问过

百度1

常见岗位:大模型算法

答案要点

  1. 数据形态:图文对、图文交错文档、视频-文本、音频-文本、多模态指令数据
  2. 模态编码:图像切 patch 用 ViT/CLIP 编码,音频转梅尔频谱,视频抽帧
  3. 对齐方式:CLIP 式对比学习;用投影层(MLP)或 Q-Former 把视觉特征接入 LLM
  4. 数据清洗:CLIP 分数过滤图文匹配度、去重、安全过滤、重新生成描述(recaption)
  5. 难点:模态信息不对等、标注昂贵、对齐不足引发幻觉、存储与计算开销大

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题