決策樹---ID3算法的理解

ID3（Iterative Dichotomiser 3）算法是由羅斯昆（J. Ross Quinlan）於1975年在悉尼大學提出的一種分類預測算法，算法的核心是「信息熵」（information entropy）。這個算法是通過計算出每個屬性的信息增益，來選取信息增益（information gain）最高的屬性來作爲決策樹劃分的屬性和標準。爲什麼要選取信息增益最高的屬性來劃分，我們來看一下下

>>阅读原文<<