Gradient Boosting

  Boosting方法： Boosting這其實思想相當的簡單，大概是，對一份數據，建立M個模型（比如分類），一般這種模型比較簡單，稱爲弱分類器(weak learner)每次分類都將上一次分錯的數據權重提高一點再進行分類，這樣最終得到的分類器在測試數據與訓練數據上都可以得到比較好的成績。 上圖（圖片來自prml p660）就是一個Boosting的過程，綠色的線表示目前取得的模型（模型是由前m

>>阅读原文<<