CTR 预估模型最后一层结构及对应损失函数
哪些公司问过
答案要点
- 最后一层:隐向量接全连接得到 logit z = w·h + b,再经 sigmoid 输出点击概率
- 损失用二元交叉熵 L = -[y·log p + (1-y)·log(1-p)],按批次取平均
- 梯度:dL/dz = p - y,dL/dw = (p - y)·h,dL/db = p - y
- 工程上用 BCEWithLogits 这类合并实现,避免 log(0) 等数值问题
- 负样本降采样后需校准概率,评估常用 AUC 和 logloss
易错点
- 最后一层输出两维却用 sigmoid,或者单输出却用 softmax,结构与损失不匹配
- 梯度推导漏掉 sigmoid 的导数,或得不出 p - y 的简洁形式
- 分别计算 sigmoid 和 log,p 接近 0 或 1 时出现数值溢出
- 负采样训练后直接把预测值当真实点击率用,没有校准
面试官常见追问
- 推导上述损失函数的梯度
- 为什么不用均方误差做损失?
- 负样本降采样后概率怎么校准?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。