機器學習筆記之信息熵、信息增益和決策樹(ID3算法)

決策樹算法：python 優勢：計算複雜度不高，輸出結果易於理解，對中間值的缺失不敏感，能夠處理不相關的特徵數據。 缺點：可能會產生過分匹配問題。 適用數據類型：數值型和標稱型。 算法原理： 決策樹是一個簡單的爲輸入值選擇標籤的流程圖。這個流程圖由檢查特徵值的決策節點和分配標籤的子葉節點組成。爲輸入值選擇標籤，咱們以流程圖的初始決策節點(即根節點)開始。此節點包含一個條件，檢查輸入值的特徵之一，基

>>阅读原文<<