反向傳播算法推導

反向傳播(英語:Backpropagation,縮寫爲BP)是「誤差反向傳播」的簡稱,是一種與最優化方法(如梯度下降法)結合使用的,用來訓練人工神經網絡的常見方法。該方法對網絡中所有權重計算損失函數的梯度。這個梯度會反饋給最優化方法,用來更新權值以最小化損失函數。 假設,你有這樣一個網絡層 現在對他們賦上初值,如下圖: 前向傳播過程 1. 輸入層---->隱含層: 2. 隱藏層---->輸出層:
相關文章
相關標籤/搜索