全鏈接神經網絡的梯度反向傳播

    咱們經過如下示例來理解梯度反向傳播。假設全鏈接神經網絡以下圖1所示，其中有2個隱含層，輸入層的神經個數爲2，第1層的神經元個數爲3，第2層的神經元個數爲3，輸出層的神經元個數爲2，激活函數爲 f ( ⋅ ) f(\cdot) f(⋅)，第1層和第2層有激活函數操做，輸出層沒有激活函數操做，權重和偏置均爲未知數。假設該全鏈接神經網絡有一個輸入[2, 3]，根據前饋全鏈接神經網絡的計算方式，能

>>阅读原文<<