初識機器學習之決策樹對鳶尾花進行分類

今天想簡單聊一下對機器學習中決策樹分類的認識，並實現了一個用決策樹對經典鳶尾花數據集分類的應用。在我看來，決策樹中最重要的一個概念就是信息熵。X的信息熵用H(X)表示，也就是X所含的信息量大小。 H(X)=P(X)logP(X) H(X,Y)=P(X,Y)logP(X,Y) 在決策樹分類的建樹過程當中，由根節點到葉子節點，熵的

>>阅读原文<<