機器學習(三)線性迴歸(Ridge,Lasso)的正則化

線性迴歸存在一個很重要的問題就是過擬合(overfitting)問題，所謂過擬合簡單直白的說就是模型的訓練誤差極小，而檢驗誤差很大。一個好的學習器不僅能夠很好的擬合訓練數據，而且能夠對未知樣本有很強的泛化能力，即低泛化誤差。先來看看線性迴歸中的過擬合現象 圖中左邊的圖表示的線性迴歸模型存在欠擬合現象(underfitting)，欠擬合顧名思義就是對訓練數據的擬合程度不夠好，訓練誤差大。中間的線性回

>>阅读原文<<