XGBoost原理簡介

一、簡述        這裏先簡單介紹下RF（Random Forest）、GBDT（Gradient Boosting Decision Tree）和XGBoost算法的原理。        RF：從M個訓練樣本中隨機選取m個樣本，從N個特徵中隨機選取n個特徵，然後建立一顆決策樹。這樣訓練出T棵樹後，讓這k顆樹對測試集進行投票產生決策值。RF是一種bagging的思路。可以並行化處理。    

>>阅读原文<<