機器學習--分類算法--決策樹算法理論

一 信息量 1 信息量是指一個事件所蘊含的信息量大小 2 信息量的度量 1）熵 相關公式 熵的性質 2）基尼係數 基尼係數的相關公式 基尼係數的性質 3）錯誤率 二 算法原理 1 決策樹構造關鍵是選擇特徵屬性以及分裂特徵屬性（樹結構） 2 決策樹構建過程是一種遞歸過程，所以必須給定停止條件，否則過程不會停止 三 算法評價標準 1 方式一 分類算法常用的混淆矩陣 2 方式二 葉子節點的不純度總和（決

>>阅读原文<<