決策樹模型ID3/C4.5算法比較

兩者都是決策樹學習的經典算法 一.ID3算法 ID3由Ross Quinlan在1986年提出。ID3決策樹可以有多個分支，但是不能處理特徵值爲連續的情況。決策樹是一種貪心算法，每次選取的分割數據的特徵都是當前的最佳選擇，並不關心是否達到最優。在ID3中，每次根據「最大信息熵增益」選取當前最佳的特徵來分割數據，並按照該特徵的所有取值來切分，也就是說如果一個特徵有4種取值，數據將被切分4份，一旦按某

>>阅读原文<<