正則化方法 L1和L2

模型訓練是圍繞解決模型的欠擬合問題展開的，通過最小化損失函數來減小模型預測值與真實值之間的誤差。因爲數據集中總會有一些噪聲，模型在擬合數據時可能會把噪聲也擬合進來，導致模型過擬合。 正則化是對損失函數的一種懲罰，即對損失函數中的某些參數進行限制。一般認爲，參數值較小的模型比較簡單，能更好地適應不同的數據集，泛化能力更強。正則化中最常用的正則項是L1範數和L2範數。 L1範數是權重向量中各元素的絕對

>>阅读原文<<