淺談決策樹

決策樹（decision tree）是一種常見的機器學習方法。看了周志華西瓜書後來簡要談談自己的認識： 首先，引入了「信息熵」的概念，信息熵（information entropy）是離散隨機事件的出現概率，是衡量樣本集合純度最常用的一種指標，與熱力學的熵有密切的關係。 通常，一個信源發送出什麼符號是不確定的，衡量它可以根據其出現的概率來度量。概率大，出現機會多，不確定性小；反之就大。這種不確定性

>>阅读原文<<