決策樹(Decision Tree)算法原理

1.熵的概念 不確定性越大熵就越大,不確定性越小熵就越小 說明A的不確定性最大,B的不確定性較小,C是一個確定性事件所以熵爲0 2.ID3算法 ID3算法是通過信息增益的計算來選擇根節點的劃分 會發現age的信息增益最大,根據ID3算法,始終選擇信息增益最大的作爲根節點,所以把age作爲根節點 決策樹生成第一層之後,在每個葉子節點重複上面的操作再確定下一個分支結點 同時對於連續變量的處理我們可以在
相關文章
相關標籤/搜索