機器學習之xgboost算法

xgboost集成思想 xgboost可以和決策樹結合在一起,一個分類器效果不好,可以考慮多個分類器,要求每多加一個分類器,分類的效果更好。 xgboost基本原理 每加一棵樹的時候整體效果提升,整體效果更好 在原有的模型上面加上一顆新樹使得預測效果更好 f函數是把樹拆分成結構部分q和葉子權重部分w 損失函數: 構建決策樹的時候希望樹越少越好,這裏用r約束T的個數,加上L2正則懲罰項 xgboos
相關文章
相關標籤/搜索