爲什麼正則化（Regularization）可以減少過擬合風險

在解決實際問題的過程中，我們會傾向於用複雜的模型來擬合複雜的數據，但是使用複雜模型會產生過擬合的風險，而正則化就是常用的減少過擬合風險的工具之一。 過擬合 過擬合是指模型在訓練集上誤差很小，但是在測試集上表現很差(即泛化能力差)，過擬合的原因一般是由於數據中存在噪聲或者用了過於複雜的模型擬合數據。如下圖所示，下圖中的訓練樣本是三次多項式加了點噪聲得到的，然後用不同的多次項擬合，M代表最高次項次數，

>>阅读原文<<