機器學習系列14：偏差與方差

在訓練機器學習模型中，結果不能被很好地預測通常是因爲高偏差（欠擬合）或高方差（過擬合）。把交叉驗證集的代價函數和測試集的代價函數畫在一個圖像中： 左面紅色部分爲高偏差（欠擬合），右邊紅色部分爲高方差（過擬合）。   對於如下模型，線性迴歸正則化的代價函數爲： 其中藍色框爲正則化項，λ 越大，代表對參數的懲罰就越大。   訓練集代價函數  J_train (θ) 、交叉驗證集代價函數 J_cv (θ

>>阅读原文<<