構建樹ID3和C4.5（決策樹基礎知識二）

學習的簡單筆記，只是對一些概念之類的進行簡單記錄 1. ID3算法 對於 對上圖構建決策樹 過度擬合： 如果決策樹對訓練樣本的特徵描述得「過於精確」，無法實現對新樣本的合理分析，所以此時它不是一棵分析新數據的最佳決策樹。一棵完全決策樹能非常準確地反映訓練集中數據的特徵，但因失去了一般代表性而無法用於對新數據的分類或預測，這種現象一般稱爲「過擬合」。 定義： 給定一個假設H，如果在假設空間上存在另一

>>阅读原文<<