機器學習 偏差和方差

機器學習算法，其泛化誤差可以分解爲兩部分，偏差（bias)和方差(variance)。 偏差指的是算法的期望預測與真實預測之間的偏差程度，反應了模型本身的擬合能力；方差度量了同等大小的訓練集的變動導致學習性能的變化，刻畫了數據擾動所導致的影響。 如下圖所示，當模型越複雜時，擬合的程度就越高，模型的訓練偏差就越小。但此時如果換一組數據可能模型的變化就會很大，即模型的方差很大。所以模型過於複雜的時候會

>>阅读原文<<