xgboost算法原理

1. XGBoost目標函數 XGBoost的目標函數由訓練損失和正則化項兩部分組成，目標函數定義如下： 第一項爲損失函數，第二項爲樹的複雜度 變量解釋： （1）l 代表損失函數，常見的損失函數有： 平方損失函數： 邏輯迴歸損失函數： （2）yi'是第 i 個樣本 xi 的預測值。由於XGBoost是一個加法模型，因此，預測得分是每棵樹打分的累加之和。 （3）將全部k棵樹的複雜度進行求和，添加到目

>>阅读原文<<