機器學習---算法基礎(5.3)XGBoost

XGBoost XGBoost相對於GBDT 參考文獻: XGBoost超詳細推導 機器學習算法中 GBDT 和 XGBOOST 的區別有哪些? XGBoost與GBDT樹的原理相似,都是使用加法模型,通過梯度上升的方式求出,其主要的不同點在 XGBoost使用的是泰勒展式的二階導數,而GBDT採用的是一階導,XGBoost的擬合效果更好 XGBoost中帶有正則項(L2正則項),減少了模型的過擬
相關文章
相關標籤/搜索