《Machine Learning》第四講 正則化（regularization）

1.過擬合問題（overfitting）        過擬合問題出現的原因是，我們在進行線性迴歸時，選取的特徵值過多，而訓練樣本較少時，最終所得出的代價函數J(θ) 會越來越小，甚至出現近似於0的情況。代價爲0不見得是一件好事，這樣訓練出來的模型只是能良好的擬合訓練樣本數據，而我們進行線性迴歸的目的是預測，我們需要得到的是一個泛化能力強的模型，圖中從左至右依次是欠擬合、擬合、過擬合的情況。   

>>阅读原文<<