溫故知新——前向傳播算法和反向傳播算法（BP算法）及其推導

1. 前向傳播算法 所謂的前向傳播算法就是：將上一層的輸出作爲下一層的輸入，並計算下一層的輸出，一直到運算到輸出層爲止。 從上面可以看出，使用代數法一個個的表示輸出比較複雜，而如果使用矩陣法則比較的簡潔。將上面的例子一般化，並寫成矩陣乘法的形式， 這個表示方法就很簡潔、很漂亮，後面我們的討論都會基於上面的這個矩陣法表示來。所以，應該牢牢記住我們符號的含義，否則在後面推導反向傳播公式時會比較懵。 2

>>阅读原文<<