XGBoost那些事兒

仔細把陳天奇大神的論文又讀了一遍，對xgBoost的原理又有了一些深入的瞭解吧。 XGBoost模型本身是Boosting方法，所以它的整體過程和傳統的Boosting還是比較接近的，即串行化的建樹過程。個人認爲，XGBoost比較新奇點在於，在建樹的過程中，結點分裂的時候使用的標準並不是傳統的基於信息增益啊、信息增益比這類東西，而是根據損失函數自己定義了一個指標，並且在損失函數中也加入了正則項，

>>阅读原文<<