機器學習算法——決策樹

決策樹算法理論篇 1、決策樹直觀理解： 假設，已知10人房產、婚姻、年收入以及能否償還債務的樣本，那麼第11個人來，知其房產、婚姻、以及年收入情況，問他是否能償還債務？ 2、前置知識： 理解決策樹，我們必須知道一下概念： 信息熵：描述系統的不確定度，熵越高，代表系統越混亂，包含的信息量也就越多，其公式： 例（計算前10個樣本能否還債y的信息熵）：-0.7log2（0.7）- 0.3log2（0.3

>>阅读原文<<