三張簡圖搞懂GBDT

首先假設你有初步的瞭解什麼是決策樹，CART樹，集成，Adaboost, boosting的一些概念。 下面我們先了解什麼是提升樹   都知道，在每個基分類器（CART樹）生成的過程，有一個最小化損失函數的步驟，那麼對於迴歸樹來說，當我們使用的損失函數是平方損失誤差的話，來看看是什麼情況： （注意圖片上的標註紅字） 看了紅字，我覺得大家應該能理解有些書上說的殘差，擬合什麼的了。   搞懂了提升樹，

>>阅读原文<<