cs231n關於反向傳播的理解

比如以這個圖片爲例，這個圖所示是一個計算圖，表明了最上面公式的計算過程，綠色爲各個變量值沿着一系列數學過程，比如乘，加，等一直到最後得到的值，就是0.73.而紅色就是梯度值，通過梯度值可以反推過程值。 梯度計算方法是導數乘以下一步梯度值，比如最後一步，1/x的導數是-1/x^2，帶入前一步1.37，然後再乘以最後一步的紅色1.00，就是-0.53，然後再往前一步，+1的導數爲1，因爲是類似於C+X

>>阅读原文<<