隨機森林 2

  選擇根節點 當樹的高度越大的時候，說明劃分的效果越細緻，切分的節點越多，導致一直切分，學到一些噪聲點，樹太高的原因是切的節點太多了。所以可能發生過擬合的現象。 1 如何選擇根節點：分別以4個節點爲根節點，計算熵值。先計算熵，然後各自的熵值乘以概率，最後在求和計算熵值之和。然後在和最初的熵值0.940比較。 2 熵值下降了，分類越純，分類效果越明顯。  3 信息增益就是衡量分類效果的一個指標，用

>>阅读原文<<