深度學習——模型優化

深度學習——模型優化 1、優化過程引入 1.1 學習過程和優化過程的區別 實際目標不同，學習算法的目標是通過降低損失函數L，從而提高模型在真實情況下的性能P。而優化算法的目標是如何更好的降低損失函數的值。 計算目標不同，一般情況下，通過學習算法，我們的計算的是整個模型函數的最小值點。也就是說學習算法通常不會停止在局部值點，而是直接尋找最值點。但是這樣容易引起過擬合。但是通過優化算法，其尋找的不一定

>>阅读原文<<