決策樹知識總結+隨機森林(兩個隨機)

決策樹：以樹形結構表示決策過程的模型。 常用於分類過程，但也可以用於迴歸，分類模型時中間節點爲屬性，葉子節點爲類別。 特點： 決策過程可以表示成 If Then 形式. 推理過程完全依賴於屬性變量的取值特點 結束條件：a.數據都屬於同一類別。b.屬性已經用完(此時投票法決定類別) 常用的決策樹算法(樹的生成過程) ID3算法，採用作爲信息增益度度量指標,通過最大化信息增益來選擇屬性。通過在驗證集上

>>阅读原文<<