集成學習(三)—— Boosting

Bagging能夠提高弱分類器性能的原因是降低了方差，Boosting 能夠提升弱分類器性能的原因是降低了偏差。   Boosting Adaboost、GBDT都是boosting Boosting方法訓練基分類器時採用串行的方式，各個基分類器之間有依賴。 它的基本思路是將基分類器層層疊加，每一層在訓練的時候，對前一層基分類器分錯的樣本，給予更高的權重。測試時，根據各層分類器的結果的加權得到最終

>>阅读原文<<