《機器學習（周志華）》Chapter4 決策樹

決策樹算法比較容易理解，在這裏簡單做一下記錄。 一、決策樹： 決策樹解決分類問題，簡單來說就是依次選擇樣本屬性作爲結點，將該樣本屬性值作爲葉子來展開，最終劃分出的葉子標記爲訓練樣例數最多的類別。 二、劃分選擇： 在選擇屬性的時候到底改選擇哪個屬性？這就引出了劃分選擇，選擇出決策樹的分支結點所包含的樣本儘可能屬於同一類別，即結點的「純度」越來越高，文中介紹了三種方式：信息增益、增益率、基尼指數。 1

>>阅读原文<<