【筆記】機器學習 - 李宏毅 - 8 - Backpropagation

反向傳播 反向傳播主要用到是鏈式法則。 概念： 損失函數Loss Function是定義在單個訓練樣本上的，也就是一個樣本的誤差。 代價函數Cost Function是定義在整個訓練集上的，也就是所有樣本誤差的總和的平均。有沒有這個平均不會影響最後的參數求解結果。 總體損失函數Total Loss Function是定義在整個訓練集上的，所有誤差的總和，反向傳播需要最小化的值。 取一個神經元分析：

>>阅读原文<<