機器學習算法之 決策樹 decision tree

決策樹 decision tree 算法原理： 構造一個決策樹，即通過特徵構造一個樹，如下圖。沿着樹結構訪問樹節點直到得到數據的分類結果。構造樹時先找出一個決定性的特徵，這個特徵把數據分爲幾個數據子集，即分支節點，如果分支節點的數據全部屬於同一類，那麼這個分類已結束，否則再進步分類。找出這個最佳（決定性的）特徵很重要， 採用香濃熵來找到這個特徵。 信息增益和熵。 香濃熵（也叫信息熵），表示混雜程度

>>阅读原文<<