交叉熵代價函數得到的過程

本文中部分內容爲書《神經網絡與深度學習》中的截取，後面的推導過程爲根據自己理解的推導。      二次代價函數由於在誤差較大的時候，學習緩慢，這與人類的學習過程是不相同的，人們總是在犯錯誤較明顯的時候，學習迅速。 所以，根據上面的兩個式子可以知道，影響學習速率的是σ′(z)，所以想要構造一個與σ′(z)無關的代價函數。 使得其對權重以及偏置求導得到的式子爲：                    

>>阅读原文<<