面试题库 › 算法 / 大模型 › 多模态模型图像 Token 冗余的解决方案

多模态模型图像 Token 冗余的解决方案

难度 ★★★在 2 场真实面经中被问到 方向:算法 / 大模型考点:视觉与多模态模型

哪些公司问过

爱奇艺2

常见岗位:大模型算法

答案要点

  1. 视觉 token 过多:序列长、成本高,且存在大量冗余背景
  2. 压缩:Q-Former 或 Perceiver Resampler 用可学习查询压缩成固定数量
  3. 合并池化:相邻 token 平均池化、像素重排、卷积下采样
  4. 剪枝:按注意力分数或相似度丢弃不重要、重复的 token
  5. 动态分辨率与自适应 token 数;长度限制靠最大像素数或图块数,缩放和截断

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题