L1、L2正則化

過擬合：對於訓練集擬合效果非常好，但是對於訓練集以外的數據集擬合效果不好。通常發生在變量（特徵）較多的情況，也就是說曲線儘可能的滿足訓練數據集，導致無法泛化（泛化是指模型能夠應用到新樣本的能力）到新數據集中。解決辦法：減少樣本特徵、正則化（通常添加L2正則化） 欠擬合：模型沒有沒有很好的捕捉到數據特徵，不能夠很好的擬合數據。與過擬合是相反的。其解決辦法：添加其他特徵項、添加多項式特徵、減少正則化參

>>阅读原文<<