《西瓜書》筆記02：模型評估和選擇

1. 經驗誤差與過擬合 訓練誤差：學習器在訓練集上的誤差。 泛化誤差：學習器在新樣本上的誤差。 希望得到泛化誤差小的學習器，但能做的是讓訓練誤差儘量小。 爲了達到這個目的，應該從訓練樣本中儘可能學習出適用於所有潛在樣本的普遍規律，這樣纔可遇到新樣本正確判斷。 過擬合：當學習器把訓練樣本學得太好了的時候，很可能已經把訓練樣本的一些特點，當成了所有潛在樣本都具有的一般性質，導致泛化能力下降。 欠擬合：

>>阅读原文<<