機器學習 學習總結 第五章 什麼是正則化？正則化是如何運作的？

什麼是正則化？ 舉例說明 如下數據集，兩個函數模型的擬合曲線如圖： 顯然，當階次較高時，可以很好的擬合數據，但是一般性不好，過度擬合了數據。 下面是在之前的線性迴歸方程中假設的代價函數： 選擇增加兩個懲罰項來儘量減少θ3和θ4的值。 代價函數就是我們優化的目標，我們要儘量減少代價函數的均方誤差 對代價函數增加如下兩項： 爲了使這個新代價函數最小化，我們要讓θ3和θ4儘量小。 實現最小化後θ3和θ4

>>阅读原文<<