【統計學習】 第5章 決策樹

決策樹與if-then規則 決策樹可以看成是if-then規則的集合。由決策束的根節點到葉節點的每一條路徑構成一條規則，葉節點的作爲規則的結論。下圖爲決策樹用於分類問題的示意圖(決策樹也能用於迴歸問題）。 特徵選擇問題 如上圖，4個條件對應4個特徵，問題在於如何確定每個特徵從根節點開始往下的依次順序。選擇的依據是使用信息增益，哪一個特徵的信息增益最大則將該特徵作爲決策樹上的一個節點，遞歸的使用該方

>>阅读原文<<