經驗風險最小化(Empirical Risk Minization,ERM)

一、偏差方差權衡 1. 偏差與方差      回顧之前在討論線性迴歸問題時，通常存在以下三種情況： 圖1，用一條直線擬合一個呈現二次結構的散點，無論訓練樣本怎樣增多，一次函數都無法準確地表示出二次函數。我們認爲它具有高偏差（high bias），表現出欠擬合（underfit）。 圖3，用一條五次多項式函數來擬合數據，對於數據的結果，得到的仍然不是一個好的模型，算法擬合出了數據中的一些奇怪規律。我

>>阅读原文<<