GBDT,XGBoost和LightBoost對比

GBDT GBDT是集成學習的一種方式,它使用決策樹作爲基分類器,通過線性加和的模式將各個及分類器組合起來,形成一個比較強的分類模型。 XGBoost XGBoost在精度和性能方便都對GBDT做了改進。 XGBoost將損失函數通過泰勒展開式展開,從而引入了二階函數信息,能夠加快模型的收斂,提高模型的精度。 在損失函數中加入了正則化,從而控制了模型的複雜度,減輕模型過擬合的風險。正則項中考慮到了
相關文章
相關標籤/搜索