周志華 機器學習 Day7

剪枝處理 剪枝 (pruning)是決策樹學習算法對付"過擬合"的主要手段。決策樹剪枝的基本策略有"預剪枝"和"後剪枝 "。 預剪枝是指在決策樹生成過程中，對每個結點在劃分前先進行估計，若當前結點的劃分不能帶來決策樹泛化性能提升，則停止劃分，並將當前結點標記爲葉結點；後剪枝則是先從訓練集生成一棵完整的決策樹，然後自底向上地對非葉結點進行考察，若將該結點對應的子樹替換爲葉結點能帶來決策樹泛化性能提升

>>阅读原文<<