機器學習筆記：過擬合問題

過擬合問題 如果我們有非常多的特徵，我們通過學習得到的假設可能能夠非常好地適應訓練集（代價函數可能幾乎爲 0），但是可能會不能推廣到新的數據。 下圖是一個迴歸問題的例子： 第一個模型是一個線性模型，低度擬合，不能很好地適應我們的訓練集；第三個模型是一個四次方的模型，過度擬合，雖然能非常好地適應我們的訓練集但在新輸入變量進行預測時可能會效果不好；而中間的模型似乎最合適。 分類問題中也存在這樣的問題：

>>阅读原文<<