ID3決策樹的算法原理與python實現

1. 引言 決策樹從本質上是從訓練數據集上訓練處一組分類規則，徹底依據訓練數據，所得規則容易發生過擬合，這也是決策樹的缺點，不過能夠經過決策樹的剪枝，來提升決策樹的泛化能力。由此，決策樹的建立可包括三部分：特徵選擇、決策樹的生成以及決策樹的剪枝；決策樹的應用包括：分類、迴歸以及特徵選擇。 決策樹最經典的算法包括：ID三、C4.5以及CART算法，ID3與C4.5算法類似，C4.5在特徵選擇時選用的

>>阅读原文<<