深入理解XGBoost

Ref：深入理解XGBoost 本文是在原文基礎上進行修補。 XGBoost原理推倒： （1）目標函數： （2） 第一項泰勒展開： （3） 第二項-定義樹的複雜度： （4） 最終的目標函數： （5）一棵樹的生成細節： （5.1）首先列採樣，隨機選出K列特徵作爲劃分特徵； （5.2）然後這K列進行並行運算，針對每列特徵將數據生序排列，保存爲block結構 （5.3）再然後 採用貪心算法/近似算法/加

>>阅读原文<<