集成學習bagging、boosting、stacking實質以及理論分析

bagging實質:並行算法,多次有放回採樣,多個模型並行投票取平均等。模型之間沒有任何聯繫,對預測值採用少數服從多數原則。 boosting實質:串行算法,在前一個模型的基礎上進行權重更新,逐漸減少誤差。實質是分段函數,每一個串行分類器是對整個值域進行分段判斷,分段函數可以提高準確率。 stacking實質:並行預測生成新的數據特徵。在新的特徵上進行預測。   總結屬於原創,原理解釋轉載知乎大佬
相關文章
相關標籤/搜索