機器學習篇——boosting

boosting是ensemble集成方法之一， 引入函數空間概念，使用損失函數的導數，採用迭代思想優化弱分類器 1、模型 加法模型，即基分類器組合（一般爲決策樹）、可分類可迴歸、判別模型 2、策略 引入前向分步算法，讓加法模型中每一輪增加的部分由該輪的決策樹決定 分類問題時，最小化指數損失函數，即是adaboost算法 迴歸問題時，最小化自定義的損失函數，每一輪對殘差構造迴歸樹，當殘差用梯度下降

>>阅读原文<<