機器學習基礎知識點②：決策樹、隨機森林、GBDT與xgboost

ID3、C4.5、CART、隨機森林、bagging、boosting、Adaboost、GBDT、xgboost算法總結 1、決策樹 首先，決策樹是一個有監督的分類模型，其本質是選擇一個能帶來最大信息增益的特徵值進行樹的分割，直到到達結束條件或者葉子結點純度到達一定閾值。按照分割指標和分割方法，決策樹的經典模型可以分爲ID3、C4.5以及CART （1）ID3：以信息增益爲準則來選擇最優劃分屬性

>>阅读原文<<