xgboost理解

XGBoost（Extreme Gradient Boosting）全名爲極端梯度提升，是GBDT的改進，可以用於分類也可以用於迴歸問題。 下面講述一下單個樹結構、xgboost思路、xgboost原理推導、xgboost模型參數四個方面內容。 單個樹結構： 對於每一棵迴歸樹，其模型爲： 其中w爲葉子節點的得分值，q(x)表示樣本x對應的葉子結點，T爲該樹的葉子結點個數。其中爲了提高樹的泛化能力，

>>阅读原文<<