決策樹（Decision Tree）

決策樹算法是幹什麼的？ 它是用於分類的算法，能夠將數據有監督的分爲幾個類別。到底是怎麼用的呢？ 先用樣本數據集構造決策樹，當新來一個測試樣本的時候，就把構造好的決策樹作爲依據，依據決策樹中每個非葉子節點，依次去判斷新來的樣本到底屬於哪個類別。（就像根據一棵樹去尋找某個葉子節點一樣） 什麼叫信息熵 信息熵可以描述爲未知事件（可以看做概率中的事件）可能含有的信息量。香濃給出信息熵的計算公式： 對於一個

>>阅读原文<<