神經網絡與深度學習筆記

第二章反向傳播算法如何工作 反向傳播算法實質上是一種計算梯度的快速算法。 2.1計算神經網絡中的矩陣計算 我們首先規定一下網絡中權重w和偏置b的表示方法。表示從層的第k個神經元到第層第j個神經元的權重。同樣,用表示第第j個神經元的偏執,用表示第層的第j個神經元的激活函數值。如下圖所示。 權重的表示: 偏置和激活值的表示: 那麼,我們計算第層的第j個神經元的激活值由下面的公式求得:        
相關文章
相關標籤/搜索