高級算法梳理-Task4 LightGBM框架簡介

本文根據多篇博文整理總結而成. 提升樹是利用加法模型與前向分步算法實現學習的優化過程，它有一些高效實現，如XGBoost, pGBRT，GBDT等。其中GBDT採用負梯度作爲劃分的指標（信息增益），XGBoost則利用到二階導數。它們共同的不足是計算信息增益需要掃描所有樣本，從而找到最優劃分點。在面對大量數據或者特徵維度很高時，它們的效率和擴展性很難使人滿意。 微軟開源的LightGBM（基於GB

>>阅读原文<<