周志華 機器學習 Day4

偏差和方差 「偏差-方差分解」是解釋學習算法泛化性能的一種重要工具，其試圖對學習算法的期望泛化錯誤率進行拆解。 對測試樣本x，令 yD爲x在數據集中的標記，y爲x的真實標記，f(x;D)的意思是在訓練集D上學得的模型f在x上的預測輸出，以迴歸任務爲例，學習算法的期望預測爲 通過簡單的多項式展開合併，可對算法的期望泛化誤差進行分解： 也就是說，泛化誤差可分解爲偏差、方差與噪聲之和。 一句話來說，偏差

>>阅读原文<<