GBDT算法梳理

1.向前分佈算法 每次只學習一次經驗,通過經驗累加經驗,一步步逼近最優解。 最終的分佈算法爲fm(xi)=fm-1(xi)+Bb(xi;r) ;; fm-1(xi)是已知的,通過一步步逼近最優解 2.負梯度擬合 提升樹利用向前分佈算法與加法模型進行學習實現優化過程,由於一步步的優化,每下一步難度便會增加,針對這個問題就出現了梯度提升算法,這個方法也是利用最速下降方法原理。 3.損失函數 方誤差損失
相關文章
相關標籤/搜索