Decision tree——決策樹

基本流程 　　決策樹是通過分次判斷樣本屬性來進行劃分樣本類別的機器學習模型。每個樹的結點選擇一個最優屬性來進行樣本的分流，最終將樣本類別劃分出來。   　　決策樹的關鍵就是分流時最優屬性$a$的選擇。使用所謂信息增益$Gain(D,a)$來判別不同屬性的劃分性能，即劃分前樣本類別的信息熵，減去劃分後樣本類別的平均信息熵，顯然信息增益越大越好： $\text{Ent}(D)=-\sum\limits

>>阅读原文<<