XGBoost詳解

文章目錄 背景 目標函數 最優切分點算法 Shrinkage(收縮過程) 缺失值處理 優缺點 背景 在看Xgboost之前，先看看筆者寫的AdaBoost 和GBDT。 AdaBoost 關注的是哪些錯誤分類的樣本，每次加大誤分類樣本的權重，訓練新的分類器。 GBDT關注的是分類器的殘差，每一次訓練分類器都是爲了不斷減小這個殘差。 Xgboost可以說是GBDT算法在工程上的一種實現。如下圖所示：

>>阅读原文<<