反向傳播公式推導與計算圖表示

計算圖模型與反向傳播 前向傳導與反向傳導的區別是前向傳導是計算每一個輸入對於每一個節點的影響（計算∂/∂X，其中X表示輸入），反向傳導計算每一個節點對於每一個輸出的影響（∂Y/∂，Y表示每一個輸出）之所以反向傳播比前向傳播計算效率要高的多，是因爲在神經網絡中一般而言輸入節點個數遠遠要大於輸出節點個數（當然 如果是輸出節點個數遠遠大於輸入節點的時候 前向傳導效率要高於反向傳導 但是基本不存在這樣的情

>>阅读原文<<