正則化

過擬合： 我們使用太多的變量去學習一個過度複雜的模型，此模型過度配合訓練數據，幾乎完全適合(或者完全適合)所有訓練數據（損失函數幾乎爲0），導致不能泛化的預測實際數據 如下圖： 例子如下： 還有一種情況就是使用太多的特徵，然後數據卻不是遠大於特徵數，那麼也會產生過擬合，解決辦法如下： 1、減小模型複雜度     選主要的特徵保留，去掉高的多項式（減少模型複雜度）     去掉的特徵有可能也會少部分

>>阅读原文<<