面试题库 › 算法 / 大模型 › PyTorch 手写 SFT 的 loss 计算(含 shift)

PyTorch 手写 SFT 的 loss 计算(含 shift)

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:分布式训练与并行

哪些公司问过

字节跳动1

常见岗位:大模型算法

答案要点

  1. 位置 t 的 logits 预测 t+1 的 token,需 logits[:, :-1] 对齐 labels[:, 1:]
  2. prompt 和 padding 的 label 设为 -100,配合 ignore_index 只对回答部分算 loss
  3. cross_entropy 要求类别维在第 2 维:先 view 成 [N, V] 与 [N],或 transpose 成 [B, V, T]
  4. reduction=mean 已按非忽略 token 数平均;梯度累积时用 sum 再除以全局有效 token 数
  5. loss 计算常在 fp32 下进行,以减少大词表 softmax 的数值误差

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题