神經網絡DNN的反向傳播

前言：在學習一段時間神經網絡後，發現自己對神經網絡的反向傳播還是有點問題，在反過來複習吧，前向傳播沒有什麼費勁的地方，這裏就不會過多的闡述。 1、單層的反向傳播 一步步來看，先看看簡單的情況，單層的反向傳播是理解多層神經網絡的基礎。 基礎：梯度與梯度下降算法，前面有講解過，這裏直接給出結論。 從這上面看出，這裏是以平方爲誤差來計算的，的導數爲，則梯度的負方向爲。故直接帶到w的方程中。 W的更新狀態

>>阅读原文<<