BP算法推導

傳送門: 傳送 輸出層梯度求解過程 如上圖所示,爲一個輸出層神經元,在計算輸出層梯度的時候,我們不用去考慮前一層是如何輸入的。所以我們用y來表示,圖中的y(n)表示第n個樣本在前一層的輸出值,這一層的輸入值。我們將當前節點定義爲j。那麼當前節點j的輸入值之和爲    這裏的m是節點j前一層的輸入節點的個數,其中包括一個偏置項b。這裏的公式都很像,看公式注意下標。然後節點j的輸出要經過**函數,如圖
相關文章
相關標籤/搜索