神經網絡-BP算法簡單推導

相信很多人和我一樣看了很多的博客，很多書始終對於BP算法都是一頭霧水。 在看了很多的博客之後，多數爲如下的一些計算步驟： 通過前向傳播計算出各個層的輸入，輸出，以及計算出總的損失函數。 計算出每一層每個神經元的誤差。 計算每個神經元權重或者偏置的梯度。  更新梯度。 裏面總是出現一些公式很費解。 我通過一個簡單的推導，來驗證這些等式的同時，也對BP算法進行了推導。 下圖是簡單的神經網絡結構。 由於

>>阅读原文<<