【西瓜書筆記二】決策樹

一，基本流程 決策樹是一類常見的機器學習方法，是基於樹結構來進行決策的。決策樹學習的目的是爲了產生一顆泛化能力強，即處理未見示例能力強的決策樹。其基本流程遵循簡單而直觀的「分而治之」策略，如下所示： 二，劃分選擇 決策樹學習的關鍵在於如何選擇最優劃分屬性。一般而言，隨着劃分過程不斷進行，我們希望決策樹的分支結點所包含的樣本儘可能屬於同一個類別，即結點的「純度」越來越高。 1，信息增益 Ent(D)

>>阅读原文<<