RF, GBDT, XGB區別

GBDT與XGB區別 1. 傳統GBDT以CART做爲基分類器,xgboost還支持線性分類器(gblinear),這個時候xgboost至關於帶L1和L2正則化項的邏輯斯蒂迴歸(分類問題)或者線性迴歸(迴歸問題) 2. 傳統GBDT在優化時只用到一階導數信息,xgboost則對代價函數進行了二階泰勒展開,同時用到了一階和二階導數。順便提一下,xgboost工具支持自定義代價函數,只要函數可一階和
相關文章
相關標籤/搜索