05梯度提升分類樹

梯度提升分類樹 一、GBDT-logloss算法流程 1、公式導圖 注意: Fo是產生的一個起始預測值(可隨機)，即兩個樣本分類的比例的對數 負梯度(即殘差)，其中yi表示我們的樣本分類(yi也可以認爲概率)。總結起來說負梯度就是距離真實值還差多少 y ~ i \widetilde{y}_i y ​i​ 我們可以根據各樣本在loss函數中關於的負梯度 的大小，來對判斷是否合適。 γ m j 表 示

>>阅读原文<<