集成學習思想總結-bagging,boosting,stacking

基本理論 Bagging（套袋法） bagging的算法過程如下： 從原始樣本集中使用Bootstraping方法隨機抽取n個訓練樣本，共進行k輪抽取，得到k個訓練集。（k個訓練集之間相互獨立，元素可以有重複） 對於k個訓練集，我們訓練k個模型（這k個模型可以根據具體問題而定，比如決策樹，knn等） 對於分類問題：由投票表決產生分類結果；對於迴歸問題：由k個模型預測結果的均值作爲最後預測結果。（所

>>阅读原文<<