面试题库 › 算法 / 大模型 › PyTorch 中交叉熵损失的实现

PyTorch 中交叉熵损失的实现

难度 ★☆☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:深度学习框架原理

哪些公司问过

腾讯1

常见岗位:推荐搜索广告

答案要点

  1. nn.CrossEntropyLoss / F.cross_entropy 内部等价于 log_softmax + NLLLoss
  2. 输入为未归一化的 logits(N×C),标签默认为 long 类型的类别索引(长度 N)
  3. 计算:log_softmax 后按标签取对数概率、取负,再按 reduction 求均值或求和
  4. 数值稳定:内部使用 log-sum-exp,减最大值防止指数溢出
  5. 常用参数:weight 类别加权、ignore_index 忽略填充位、label_smoothing 标签平滑

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题