反向傳播算法理解與記錄

反向傳播(Backpropagation，BP)是用於最小化多層神經網絡或深度神經網絡中代價函數的神經網絡術語。最小化代價函數通常使用梯度下降(gradient descend)，而反向傳播算法則是神經網絡中有效計算輸出關於網絡各層參數梯度的一種基於鏈式求導法則的算法。 下面是依據coursera上Andrew Wu的斯坦福機器學習課程中關於BP算法的介紹和相關筆記做的記錄。 1 目標 要利用梯度

>>阅读原文<<