簡單明瞭的理解神經網絡BP傳播算法

最近在用numpy實現Lenet5的時候發現網絡結構的正向傳播理解沒問題，但是在對誤差逆傳播的理解卻很是困惑，在查了一些資料卻發現對對神經網絡的BP傳播理解也不是很透徹，看來學習這件事來不得半點虛的。現實總是會在我不經意間將我打回原型，並且按在泥裏面來回摩擦。那我只能停止幻想，繼續奮鬥了。。。 今天就詳細的記錄一下BP傳播算法的推導過程（借鑑了zhihu大神的圖片和公式）。 爲了簡單起見這裏定義三

>>阅读原文<<