【機器學習】GBDT算法原理

GBDT算法原理 GBDT是集成學習中的一種方法，它將梯度作爲後一棵樹的輸入，來學習出多顆樹。通過多棵樹的協作，完成一個泛化能力很強的綜合學習器。具體的GBDT算法如下。 算法： 算法第1步初始化，估計使損失函數極小化的常數值，它是隻有一個根節點的樹。第2（a）步計算損失函數的負梯度在當前模型的值，將它作爲殘差的估計。對於平方損失函數，它就是通常所說的殘差；對於一般損失函數，它就是殘差的近似值。第

>>阅读原文<<