Gradient Boosting Decision Tree (GBDT)

GBDT也是集成學習Boosting家族的成員，Boosting是各個基學習器之間有很強的依賴關係，即串行。GBDT限定了基學習器只能使用CART迴歸樹。 樹模型的優缺點： GBDT是一個加法模型，採用前向分步算法進行求解。假設前一輪得到的模型是 ft−1(x) f t − 1 ( x ) ，損失函數是 L(y,ft−1(x)) L ( y , f t − 1 ( x ) ) ，本輪迭代的目標是

>>阅读原文<<