機器學習基礎——實現基本的決策樹

一、決策樹基本流程  決策樹是常見的機器學習方法。我在學習周志華的機器學習的時候，用python實現了最基礎的ID3算法，其基本思想是： 基於信息論中的信息增益理論，首先找出判斷樣本的最高的信息增益的屬性（或者說特徵），然後依次對按該屬性劃分成的子集 進行同樣的選擇信息增益最大的屬性並進行劃分的過程。這是一個典型的(divide-conquer)的過程。 二、最基本的決策樹實現 下面，通過周志華《

>>阅读原文<<