機器學習筆記21-XGBoost

XGBoost： 算法核心思想 不斷地添加樹，不斷地進行特徵分裂來生長一棵樹，每次添加一個樹，其實是學習一個新函數，去擬合上次預測的殘差。 當我們訓練完成得到k棵樹，我們要預測一個樣本的分數，其實就是根據這個樣本的特徵，在每棵樹中會落到對應的一個葉子節點，每個葉子節點就對應一個分數 最後只需要將每棵樹對應的分數加起來就是該樣本的預測值 決策樹模型 訓練數據集，其中 決策樹模型： 把樹分成結構部分q

>>阅读原文<<