機器學習算法三：bagging及隨機森林算法

在學習隨機森林算法之前，首先需要對一些基礎知識有一些瞭解。 1 信息、熵，信息增益及決策樹 在學習任何跟決策樹有關的算法時，都會接觸到題目中的這幾個概念，理解這幾個概念有助於以後的學習，廢話不多說。 1.1 信息 信息這個概念真的極其的抽象，看了很多博主的文章感覺還是理解不了，再看看香農的話，信息是用來消除隨機不確定性的東西，更讓人不知所云。 要理解信息的概念，就必須瞭解信息含量這個東西是如何去量

>>阅读原文<<