三張簡圖搞懂GBDT

首先假設你有初步的瞭解什麼是決策樹，CART樹，集成，Adaboost, boosting的一些概念。算法 下面咱們先了解什麼是提高樹函數   都知道，在每一個基分類器（CART樹）生成的過程，有一個最小化損失函數的步驟，那麼對於迴歸樹來講，當咱們使用的損失函數是平方損失偏差的話，來看看是什麼狀況：blog （注意圖片上的標註紅字）圖片 看了紅字，我以爲你們應該能理解有些書上說的殘差，擬合什麼的了

>>阅读原文<<