機器學習之決策樹與隨機森林

決策樹（decision tree）是一種基本的分類與迴歸方法，本文主要討論用於分類的決策樹。決策樹學習通常包括三個步驟：特徵選擇，決策樹的生成和決策樹的修剪。而隨機森林則是由多個決策樹所構成的一種分類器，更準確的說，隨機森林是由多個弱分類器組合形成的強分類器。 目錄 一、信息論知識 1.信息熵的概念 2.條件熵 3.相對熵 4.互信息 5.幾個量之間的關係 二、決策樹 1.引入 2.決策樹的生成

>>阅读原文<<