對xgboost的一些理解

xgboost 簡介 xgboost 的全稱是eXtreme Gradient Boosting，由華盛頓大學的陳天奇博士提出，在Kaggle的希格斯子信號識別競賽中使用，因其出衆的效率與較高的預測準確度而引起了廣泛的關注。 與GBDT的區別 GBDT算法只利用了一階的導數信息，xgboost對損失函數做了二階的泰勒展開，並在目標函數之外加入了正則項對整體求最優解，用以權衡目標函數的下降和模型的復

>>阅读原文<<