卷積神經網絡（二）：Softmax損失以及反向傳播導數推導

Softmax與交叉熵 Softmax函數如下： Pk=eθkx∑dj=0eθjx P k = e θ k x ∑ j = 0 d e θ j x 其中，Pk對應輸出層第k個神經元的輸出，也就是預測爲第k類的概率,d表示輸出層神經元總數 其損失函數(交叉熵)如下： J(θ)=−1n∑i=0n∑j=0dI(label(i)==k)lnPi J ( θ ) = − 1 n ∑ i = 0 n ∑ j

>>阅读原文<<