Ensenble集成算法-Bagging,boosting,隨機森林

概述 集成學習是指將若干弱分類器組合之後產生一個強分類器。 每個弱分類器的訓練樣本、特徵選擇和權重都不一樣，最終結果由弱分類器的結果投票產生。 由於各個弱分類器之間具有差異性，因此集成算法可解決過擬合問題。同時還能減少偏差和方差，提高分類結果。 自助聚合算法Bagging 採用有放回的方式隨機抽取部分樣本訓練弱分類器，重複K次。得到K個弱分類器。等權重投票。 隨機森林RF 思想與隨機森林類似，只是

>>阅读原文<<