臺大李宏毅-- 反向傳播算法 Backpropagation

1. 鏈式法則 2. 反向傳播算法 實例 計算前向傳播： 比如： 你會發現，輸入值就是前向傳播中，要求求解的導數的值。 計算後向傳播： 這裏假設，一個樣本造成的損失loss是： （每個樣本有兩個輸入x1,x2） 綜上所述： 由上圖可得，在反向傳輸中，在計算過程中，是先算出最末尾的 ∂C∂y1,∂C∂y2 ∂ C ∂ y 1 , ∂ C ∂ y 2 ，再算出倒數第二個的偏導 ∂C∂z‘，∂C∂z‘‘

>>阅读原文<<