機器學習筆記（九）——決策樹的生成與剪枝

1、決策樹的生成算法         基本的決策樹生成算法主要有ID3和C4.5, 它們生成樹的過程大體類似，ID3是採用的信息增益做爲特徵選擇的度量，而C4.5採用信息增益比。構建過程以下：web 從根節點開始，計算全部可能的特徵的信息增益（信息增益比），選擇計算結果最大的特徵。 根據算出的特徵創建子節點，執行第一步，直到全部特徵的信息增益（信息增益比）很小或者沒有特徵能夠選擇爲止。 以上算法只

>>阅读原文<<