決策樹之信息熵的理解

決策樹創建 本文上一節已經討論如何用一棵決策樹進行分類。本節將經過特徵選擇、剪枝，介紹如何根據已有的樣本數據創建一棵決策樹。函數 首先介紹下特徵選擇。選擇一個合適的特徵做爲判斷節點，能夠快速的分類，減小決策樹的深度。決策樹的目標就是把數據集按對應的類標籤進行分類。最理想的狀況是，經過特徵的選擇能把不一樣類別的數據集貼上對應類標籤。特徵選擇的目標使得分類後的數據集比較純。如何衡量一個數據集純度，這裏

>>阅读原文<<