統計學習方法（五）：決策樹和隨機森林

決策樹：判別模型 問題描述：假設要對一批樣本分K類。其中這些樣本又有A個特徵。如何生成一個樹形結構，按照特徵一層一層往下分。 決策樹生成思路：有A個特徵可供分類，但是先選哪個特徵作爲分類標準呢？決策樹爲了解決這個問題，首先會判斷該特徵的對樣本的區分能力，比如在男宿舍這樣一個條件下判斷誰有ipad，如果用性別作爲一個特徵來判斷分類，收益很小；如果我們用生活費多少來判斷，那麼對這個分類就有很大的幫助。

>>阅读原文<<