機器學習之GBDT、XGBoost

一、梯度提升決策樹GBDT         GBDT（Gradient Boosting Decision Tree）是Boosting算法的一種，每輪迭代是在上一輪弱學習器的損失函數梯度下降的方向上，訓練產生新的弱學習器，所有弱學習器加權組合得到最終的強學習器。GBDT對弱學習器的要求是要足夠簡單，即低方差&高偏差，一般深度不會超過5，葉子節點的數量也不會超過10，默認選擇CART迴歸樹。注意G

>>阅读原文<<