《西瓜書》-2.模型的評估與選擇

2.模型的評估與選擇 2.1.經驗誤差與過擬合 訓練誤差：學習器在訓練集上的誤差。 泛化誤差：學習器在新樣本上的誤差。 我們希望得到泛化誤差小的學習器，但能做的是讓訓練誤差儘量小。 爲了達到這個目的，應該從訓練樣本中儘可能學習出適用於所有潛在樣本的普遍規律，這樣纔可遇到新樣本正確判斷。   過擬合：當學習器把訓練樣本學得太好了的時候，很可能已經把訓練樣本的一些特點，當成了所有潛在樣本都具有的一般性

>>阅读原文<<