偏差-方差分析

其實就機器學習算法來說，其泛化誤差可以分解爲兩部分，偏差（bias）和方差（variance）。偏差指的是算法的期望預測與真實預測之間的偏差程度，反應了模型本身的擬合能力；方差度量了同等大小的訓練集的變動導致學習性能的變化，刻畫了數據擾動所導致的影響。 如下圖所示，當模型越複雜時，擬合的程度就越高，模型的訓練偏差就越小。但此時如果換一組數據可能模型的變化就會很大，即模型的方差很大。所以模型過於複雜

>>阅读原文<<