決策樹之基 —— ID3 算法

決策樹用來預測的是一個固定的對象，從根到葉節點的一條特定路線就是一個分類規則，決定這一個分類算法和結果。 決策樹的生成算法是從根部開始，輸入一系列帶有標籤分類的示例（向量），從而構造出一系列的決策節點。其節點又稱爲邏輯判斷，表示該屬性的某個分支（屬性），供下一步繼續判斷，一般有幾個分支就有幾條有向的線作爲類別標記。 決策樹的理論基礎——信息熵 信息熵指的是對事件中不確定的信息的度量。在一個事件或者

>>阅读原文<<