XGB算法梳理

算法原理 算法思想就是不斷地添加樹,不斷地進行特徵分裂來生長一棵樹,每次添加一個樹,實際上是學習一個新函數,去擬合上次預測的殘差。當咱們訓練完成獲得k棵樹,咱們要預測一個樣本的分數,其實就是根據這個樣本的特徵,在每棵樹中會落到對應的一個葉子節點,每一個葉子節點就對應一個分數,最後只須要將每棵樹對應的分數加起來就是該樣本的預測值。html 注:w_q(x)爲葉子節點q的分數,f(x)爲其中一棵迴歸樹
相關文章
相關標籤/搜索