面试题库 › C++ / 后端 › LongChat 与美团 LongCat 模型介绍

LongChat 与美团 LongCat 模型介绍

难度 ★★☆在 0 场真实面经中被问到 方向:C++ / 后端考点:长上下文处理

答案要点

  1. LongChat 是 LMSYS 基于 LLaMA 微调的长上下文对话模型,有 7B/13B 的 16K 版本
  2. 用压缩旋转位置编码即位置插值,把长序列位置缩放回预训练长度范围再微调
  3. 配套 LongEval 用话题检索和行检索测试模型的有效上下文长度
  4. LongCat 是美团开源模型系列,LongCat-Flash 为 MoE 架构,用零计算专家按 token 动态分配算力

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题