XGBoost算法梳理

XGBoost是boosting算法的其中一種。Boosting算法的思想是將許多弱分類器集成在一起形成一個強分類器。因爲XGBoost是一種提升樹模型，所以它是將許多樹模型集成在一起，形成一個很強的分類器。而所用到的樹模型則是CART迴歸樹模型。講解其原理前，先講解一下CART迴歸樹。 一、CART迴歸樹 CART迴歸樹是假設樹爲二叉樹，通過不斷將特徵進行分裂。比如當前樹結點是基於第j個特徵值進

>>阅读原文<<