反向傳播算法如何工作

ia_200008027 前面一章，我們通過了梯度下降算法實現目標函數的最小化，從而學習了該神經網絡的權重和偏置，但是有一個問題並沒有考慮到，那就是如何計算代價函數的梯度，本章的重點就是介紹計算這些梯度的快速算法——反向傳播算法，首先先介紹一下上圖中以及下面文章中會出現的一些數學符號：  : 表示網絡層數  : 表示第 層的第 個神經元的偏置  : 表示第 層的第 個神經元的激活值  : 表示從

>>阅读原文<<