字节跳动大模型算法面试高频题报告(统计自 57 场真实面经)
结论:在 57 场字节跳动大模型算法的真实面经里,被问得最多的是「PPO、DPO、GRPO、DAPO 等强化学习对齐算法」(30% 的场次问到)、「Transformer 与大模型的基本结构」(26% 的场次问到)、「LoRA 的原理」(12% 的场次问到)。按考点看,大模型原理与微调占 52%、深度学习占 16%、数据结构与算法占 9%。
最常被问到的 30 道题
| # | 题目 | 问到的场次 | 占比 |
|---|---|---|---|
| 1 | PPO、DPO、GRPO、DAPO 等强化学习对齐算法 | 17 | 30% |
| 2 | Transformer 与大模型的基本结构 | 15 | 26% |
| 3 | LoRA 的原理 | 7 | 12% |
| 4 | 重要性采样的原理 | 5 | 9% |
| 5 | 大模型幻觉的原因与缓解方法 | 4 | 7% |
| 6 | PPO 的损失函数与 GAE | 3 | 5% |
| 7 | CLIP 模型的原理与训练 | 3 | 5% |
| 8 | BatchNorm 与 LayerNorm 区别及为何用 LN | 3 | 5% |
| 9 | KL 散度的含义与在对齐中的作用 | 3 | 5% |
| 10 | 链表相加(两数相加) | 3 | 5% |
| 11 | SAM 分割模型的整体架构 | 3 | 5% |
| 12 | Qwen3-VL 的整体架构 | 3 | 5% |
| 13 | Agentic RL 与传统大模型强化学习的差异 | 3 | 5% |
| 14 | GRPO 的原理与改进 | 2 | 4% |
| 15 | 最长公共子序列(LeetCode 1143) | 2 | 4% |
| 16 | 大模型训练流程:预训练、SFT、RLHF | 2 | 4% |
| 17 | Beam Search是怎么做的?有哪些优化? | 2 | 4% |
| 18 | 反向传播与常见优化器原理 | 2 | 4% |
| 19 | 编辑距离的动态规划解法 | 2 | 4% |
| 20 | 介绍项目与应对深挖:STAR 框架 | 2 | 4% |
| 21 | 召回-重排-生成与单次生成的延迟质量权衡 | 2 | 4% |
| 22 | Agent 记忆系统的设计 | 2 | 4% |
| 23 | 大语言模型基础:KV Cache 与注意力变体 | 2 | 4% |
| 24 | 最长有效括号 | 2 | 4% |
| 25 | 视频编解码:常见标准与关键概念 | 2 | 4% |
| 26 | RAG 存在的问题与改进方案 | 2 | 4% |
| 27 | 过拟合的概念、原因与解决方法 | 2 | 4% |
| 28 | Agent 的概念与它和 LLM 的区别 | 2 | 4% |
| 29 | MoE 和多头注意力的区别 | 2 | 4% |
| 30 | 模型效果提升如何归因并排除无关变量 | 2 | 4% |
考点分布
- 大模型原理与微调52%
- 深度学习16%
- 数据结构与算法9%
- RAG 与 Agent6%
- 机器学习6%
- 推荐与搜索4%