提升樹

定義： 提升樹是以分類樹或迴歸樹爲基分類器的boosting方法。 迴歸問題的提升樹 採用平方誤差損失函數，是用當前模型去擬合數據的殘差 分類問題的提升樹 指數損失函數 對於二分類問題，提升樹只需將Adaboost裏的基分類器限制爲二類分類樹即可。 總結： 提升樹利用加法模型和前向分步算法實現學習的優化過程。當損失函數是指數損失函數（用於分類）和平方損失函數（用於迴歸）時，每一步的優化都是很簡單的

>>阅读原文<<