面试题库 › 算法 / 大模型 › Softmax的原理和作用是什么?

Softmax的原理和作用是什么?

难度 ★☆☆在 3 场真实面经中被问到 方向:算法 / 大模型

哪些公司问过

腾讯1华为1蚂蚁集团1

常见岗位:推荐搜索广告、机器学习算法(泛)

答案要点

  1. softmax(z_i)=exp(z_i)/Σexp(z_j),输出为正且和为 1
  2. 保持大小顺序并放大差距,用于多分类输出和注意力权重
  3. 配合交叉熵时梯度为预测概率减真实标签
  4. 先减最大值防止 exp 溢出,平移不变保证结果不变
  5. 二分类等价于 Sigmoid,温度参数控制分布平滑程度

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。