信息增益與決策樹

決策樹是一種判別式模型。在一顆分類決策樹中，非葉子節點時決策規則，葉子節點是類別。當輸入一個特徵向量時，按照決策樹上的規則從根節點向葉節點移動，最後根據葉節點的類別斷定輸入向量的類別。決策樹也能夠用來解決迴歸問題。html 創建一個決策樹模型主要有三個步驟：特徵選擇、決策樹的生成、決策樹的剪枝。而特徵選擇時要用到信息增益這個概念。算法 特徵選擇：dom 對於一個隨機變量X，它的熵能夠表示爲：機器學

>>阅读原文<<