集成學習從放棄到再入門之XGBOOST

牛頓法 牛頓法最初是通過迭代xn+1=xn-f(xn)/f’(xn)用來求函數的零點值f(x)=0，在優化問題中即求解導函數的零點值:迭代xn+1=xn-f’(xn)/f」(xn)使f’(x)=0 GBDT和XGBOOST 機器學習算法中GBDT和XGBOOST的區別有哪些？ 1. 傳統GBDT以CART作爲基分類器，xgboost還支持線性分類器，這個時候xgboost相當於帶L1和L2正則化項

>>阅读原文<<