機器學習-決策樹(ID3)

小白-學決策樹 什麼是決策樹？決策樹是一種基本的分類和迴歸方法。 決策樹主要有3種算法結構，ID3決策樹-信息增益(Information Gain)，C4.5決策樹-增益率(gain ratio)，CART決策樹-基尼指數(gini index)。 首先我們先來介紹ID3決策樹，這裏要介紹一下「信息熵」。信息熵是判斷樣本集合純度的一種指標。      其中y代表多少個類，Ent(D)的值變小，則

>>阅读原文<<