決策樹分類ID3算法的Python實現

生成決策樹是從數據中生成分類器的一個特別有效的方法。決策樹從一組無次序、無規則的事例中推理出分類規則。python ID3算法 ID3算法採用自頂向下的遞歸方法構造決策樹,從單表訓練樣本的單個節點開始,使用信息熵來選擇合適的分類屬性,將樣本劃分紅若干子集,直到樣本都在同一個分類中。 ID3算法的核心是信息熵和信息增益,計算信息熵和信息增益有如下關鍵公式: 信息熵: 信息增益: 信息增益大的屬性將被
相關文章
相關標籤/搜索