boost算法總結

boosting算法是集成的方式之一，使用前向分部算法(Forward stagewise additive modeling)構建一個加法模型，每次迭代時根據模型與標籤值的誤差創建一個基分類器疊加到模型上，逐步減少模型的偏差。前向分部是一種貪心算法，下面的Adaboost和GBDT也是基於這個算法進行的。流程如下 第三步 L(yi,fm−1(xi)+βb(xi;γ)) L ( y i , f m

>>阅读原文<<