GBDT與XGBOOST

Boosting方法實際上是採用加法模型與前向分佈算法。在上一篇提到的Adaboost算法也可以用加法模型和前向分佈算法來表示。以決策樹爲基學習器的提升方法稱爲提升樹（Boosting Tree）。對分類問題決策樹是CART分類樹，對迴歸問題決策樹是CART迴歸樹。 1、前向分佈算法 　　引入加法模型 　　 　　在給定了訓練數據和損失函數L(y,f(x))L(y,f(x)) 的條件下，可以通過損失

>>阅读原文<<