【深度學習】常見的代價函數的理解與選擇

前言 代價函數決定着模型訓練的方向，而優化方法也是建立在代價函數的基礎上的。而不同的問題往往有不同的代價函數，這裏最一些比較常見的代價函數進行總結，也供模型設計的時候予以參考。 在這之前首先做一個區分： 損失函數（Loss Function）：是定義在單個樣本上的，是指一個樣本的誤差。 代價函數（Cost Function）：是定義在整個訓練集上的，是所有樣本誤差的平均，也就是所有損失函數值的平均

>>阅读原文<<