正則化

Q：關於正則，我們⼀般採⽤L2或者L1, 這兩個正則之間有什麼區別? 什麼時候需要用L2， 什麼時候需要用L1? 首先，過擬合的問題通常發生在變量（特徵）過多的時候。這種情況下訓練出的方程總是能很好的擬合訓練數據。但是，這樣的曲線在新的數據樣本中表現不一定好。也就是說，經驗誤差很小，泛化誤差很大的時候，過擬合就產生了。 而正則化是解決過擬合的一種常用手段。正則化是一種迴歸的形式，它將係數估計朝零的

>>阅读原文<<