提升樹和GBDT

提升樹 提升樹模型 以決策樹爲基函數的提升方法稱爲提升樹(boosting tree)。 對分類問題是二叉分類樹，對迴歸問題是二叉迴歸樹。 提升樹可以表示爲決策樹的加法模型： fM(x)=∑m=1MT(x;Θm) 其中， T(x;Θm) 表示決策樹； Θm 爲決策樹的參數；M爲樹的個數。 提升樹算法 提升樹算法採用前向分步算法。首先確定初始提升樹 f0(x)=0 ，第m步的模型是 fm(x)=fm

>>阅读原文<<