82-使用信息熵尋找最優劃分

使用信息熵尋找最優劃分   上一篇博客介紹了信息熵這樣的指標,通過信息熵,我們可以知道當前數據的不確定度是怎樣的,進而知道了對於我們的決策樹來說,在根節點的時候(其實根節點就相當於擁有了全部的數據),我們要找到一個維度,一個閾值對根節點進行劃分,劃分之後,我們希望我們的數據整體信息熵是越來越低的,進而對劃分出來的兩個節點我們可以再用同樣的方式去尋找特定的維度和閾值進行劃分,使得整體的信息熵繼續減小
相關文章
相關標籤/搜索