ID3算法下的決策樹

網上的內容感覺又多又亂，自己寫一篇決策樹算法。希望對別人有所啓發，對自己也是一種進步。 決策樹 須知概念 決策樹 須知概念 熵： 熵（entropy）指的是體系的混亂的程度，在不同的學科中也有引申出的更爲具體的定義，是各領域十分重要的參量。 信息熵（香農熵）： 是一種信息的度量方式，表示信息的混亂程度，也就是說：信息越有序，信息熵越低。例如：火柴有序放在火柴盒裏，熵值很低，相反，熵值很高。 信息增

>>阅读原文<<