集成學習之GBDT、XGBOOST、RF

GBDT&&XGBOOST 都屬於GBM(GradientBoosting Machine)方法,傳統GBDT以CART(分類迴歸樹)作爲基分類器,利用損失函數的負梯度方向在當前模型的值作爲殘差的近似值,可以說在RF的基礎上又有進一步提升,能靈活的處理各種類型的數據,在相對較小的調參時間下,預測的準確度較高。 XGBOOST基學習器除了樹,還支持線性分類器;XGBOOST在代價函數中加入了正則項,
相關文章
相關標籤/搜索