RF，GBDT，XgBoost的區別

Random Forest： 主要運用到的方法是bagging，採用Bootstrap的隨機有放回的抽樣，抽樣出N份數據集，訓練出N個決策樹。然後根據N個決策樹輸出的結果決定最終結果（離散型的輸出：取最多的類別，連續型的輸出：取平均數），是一種集成學習 下面引用的是謝益輝博士關於Bootstrap （和 Jackknife）基本思想的論述 一般情況下，總體永遠都無法知道，我們能利用的只有樣本，現在

>>阅读原文<<