梯度提升樹GBDT原理

1.模型 提升方法實際採用加法模型（即基函數的線性組合）與前向分佈算法。以決策樹爲基函數的提升方法稱爲提升樹（boosting tree)。對分類問題決策樹是二叉分類樹，對迴歸問題決策樹是二叉決策樹。提升樹模型可以表示爲決策樹的加法模型：  其中，表示決策樹；爲決策樹的參數；M爲樹的個數 2.學習過程 迴歸問題提升樹使用以下前向分佈算法： 在前向分佈算法的第m步，給定當前模型，需求解 得到，即第m

>>阅读原文<<