神經網絡反向傳播算法總結

什麼是反向傳播算法 反向傳播算法其實就是通過樣本產生的誤差來回推參數的修正值。它看上去像是通過輸出值來計算輸入值（參數），所以叫反向傳播。反向傳播算法其實和梯度下降算法比較類似，都可以表示爲：修正值=原始值-學習率*代價函數對目標參數的偏導數。其中代價函數對目標參數的偏導數比較複雜，這裏着重說明一下。 如何求偏導數 以這個圖爲例，可以看到，我們要修正的是w1~w8這八個參數。先看看如何求代價函數對

>>阅读原文<<