多模态数据的类型、处理与对齐方式
哪些公司问过
答案要点
- 数据形态:图文对、图文交错文档、视频-文本、音频-文本、多模态指令数据
- 模态编码:图像切 patch 用 ViT/CLIP 编码,音频转梅尔频谱,视频抽帧
- 对齐方式:CLIP 式对比学习;用投影层(MLP)或 Q-Former 把视觉特征接入 LLM
- 数据清洗:CLIP 分数过滤图文匹配度、去重、安全过滤、重新生成描述(recaption)
- 难点:模态信息不对等、标注昂贵、对齐不足引发幻觉、存储与计算开销大
易错点
- 只罗列模态类型,不讲数据如何编码和对齐
- 以为网络爬取的图文对可以直接用,忽略噪声和图文不匹配
- 把 CLIP 当成生成模型,它是对比学习训练的双塔编码器
面试官常见追问
- CLIP 是怎么训练的?
- LLaVA 这类模型一般怎么训练?
- 多模态模型的幻觉怎么缓解?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。