分類決策樹原理及實現(三)

3、特徵選擇    特徵選擇，即選擇來對特徵空間進行劃分。準則是信息增益（對應ID3算法）或信息增益比(對應C4.5算法)，ID3與C4.5python 大部分相同，只是選擇特徵準則計算公式不一樣。以ID3爲例，從根結點開始，對結點計算全部特徵的信息增益，而後選擇具算法 有最大信息增益的特徵做爲結點的特徵，由該特徵不一樣的取值創建相應的子結點；再對遞歸地對子結點調上以上方法，構建app 決策樹，直

>>阅读原文<<