chapter-4-介紹神經網絡

反向傳播 首先介紹一個概念：計算圖。簡單來說，計算圖是一個函數的可視化表達，如下圖： 其中每個節點代表一個計算。 利用計算圖，我們可以很容易地使用反向傳播的思想計算每個變量的梯度： 首先我們在每個運算後定義一個變量來保存其對應的運算結果，如上圖的q和f；然後我們從後向前地分別計算每個運算結果對其上一級變量的導數，如df/dq、df/dz、dq/dx；依次這樣做，直到到達了計算圖的最前面，即輸入數據

>>阅读原文<<