XGBoost原理

我終於會用word編寫數學公式啦！ …可惜複製不過來,只能截圖 XGBoost核心思想是多個基礎模型的線性擬合，基礎模型使用CART樹(我喜歡)，因爲CART樹普遍來講要比線性基礎模型的效果要好。 首先，xgboost採用的是加法訓練，也就是要確定第t顆樹最優，先確定第t-1顆樹最優，依次類推。 所以，其目標函數: 表示經過第t輪迭代後的模型預測值， 表示已知t-1個基礎模型得到預測值; 表示第t

>>阅读原文<<