決策樹-GBDT-RF-Xgboost

決策樹算法有很多良好的特性，比如可以直觀的展示模型，適用於非線性分類等。但是單決策樹容易過擬合，於是人們採用剪枝的辦法來儘量減少這種情況。後來出現將模型組合（boosting，bagging）與決策樹結合，使幾百顆簡單的決策樹組合在一起，組合後的分類器很強大，不容易過擬合。常見的兩種基本形式有GBDT和隨機森林（RF）。而xgboost是eXtreme Gradient Boosting，xgbo

>>阅读原文<<