機器學習之決策樹模型

在實現決策樹模型以前，先須要瞭解信息的熵，熵被定義爲信息的指望值，下面說明信息熵的計算方法：python          假如事件發生的可能性包括A，B，C三類；那麼計算分類A的熵按照如下方式數據結構          L(A) = -log2P(A)函數          其中L(A)爲分類A的熵。P(A)爲事件發生後是A類的機率（可能性）。那麼全部類別的熵計算方式以下：設計         

>>阅读原文<<