統計學習方法——第五章：決策樹

決策樹 顧名思義。決策樹由結點和分支組成，結點分爲葉子節點和分支節點，分支節點代表的是分類的標準。葉子節點代表的是分類類別 特徵選擇 選取對數據具有分類能力的特徵 基礎知識： 自信息 X如果可以取三個值：x1,x2,x3,概率分別爲p1,p2,p3。 那麼-log(p1),-log(p2),-log(p3)相應稱爲x1,x2,x3的自信息，代表了它們各自的不確定性 信息熵 隨機變量的不確定性。只依

>>阅读原文<<