決策樹思維方式及實現過程（1）

1.決策樹是模擬 人決策過程，按因素影響程度 從大到小，依次決策，得出最終結論。 如下圖：爲分類一封郵件是否爲垃圾郵件   2.如何評判因素的影響程度 a.評判影響程度的一種方法是 信息增益，信息增益越大，表示該因素的影響程度越高，用該因素決策，越容易到達結論（只剩下單一可能類別） b.信息的定義：如果待分類的事物可能劃分在多個分類之中，則符號xi的信息定義爲： c.熵：信息的期望值。熵是度量樣本

>>阅读原文<<