「反向傳播算法」過程及公式推導

一、定義 首先來一個反向傳播算法的定義(轉自維基百科):反向傳播(英語:Backpropagation,縮寫爲BP)是「誤差反向傳播」的簡稱,是一種與最優化方法(如梯度下降法)結合使用的,用來訓練人工神經網絡的常見方法。 該方法對網絡中所有權重計算損失函數的梯度。 這個梯度會反饋給最優化方法,用來更新權值以最小化損失函數。(誤差的反向傳播) 二、案例1 首先明確,「正向傳播」求損失,「反向傳播」回
相關文章
相關標籤/搜索