神經網絡與深度學習筆記

第二章反向傳播算法如何工作 反向傳播算法實質上是一種計算梯度的快速算法。 2.1計算神經網絡中的矩陣計算 我們首先規定一下網絡中權重w和偏置b的表示方法。表示從層的第k個神經元到第層第j個神經元的權重。同樣，用表示第第j個神經元的偏執，用表示第層的第j個神經元的激活函數值。如下圖所示。 權重的表示： 偏置和激活值的表示： 那麼，我們計算第層的第j個神經元的激活值由下面的公式求得：        

>>阅读原文<<