決策樹算法——XGBoost 和 LightGBM

XGBoost XGBoost 是大規模並行 boosting tree 的工具，它是目前最快最好的開源 boosting tree 工具包，比常見的工具包快 10 倍以上。Xgboost 和 GBDT 兩者都是 boosting 方法，除了工程實現、解決問題上的一些差異外，最大的不同就是目標函數的定義。故本文將從數學原理和工程實現上進行介紹，並在最後介紹下 Xgboost 的優點。 數學原理 目

>>阅读原文<<