過擬合與欠擬合數學原理

一、偏倚（bias）和方差(variance) 在討論線性迴歸時，我們用一次線性函數對訓練樣本進行擬合（如圖1所示）；然而，我們可以通過二次多項式函數對訓練樣本進行擬合（如圖2所示），函數對樣本的擬合程序看上去更「好」；當我們利用五次多項式函數對樣本進行擬合（如圖3所示），函數通過了所有樣本，成爲了一次「完美」的擬合。 圖3建立的模型，在訓練集中通過x可以很好的預測y，然而，我們卻不能預期該模型能

>>阅读原文<<