损失函数

一.常见损失函数

  • 二分类交叉熵

 

  • 多分类交叉熵

 

二. 常见问题

  • 为什么分类选用交叉熵而不是均方差?

交叉熵损失函数一般用来代替均方差损失函数与sigmoid激活函数组合

      • 均方差对参数的偏导的结果都乘了sigmoid的导数, 可能会出现梯度消失,导致参数不更新。

三.参考

为什么用交叉熵做损失函数

0