機器學習方法篇(4)------決策樹剪枝

● 每週一言 冰凍三尺,非一日之寒;水滴石穿,非一日之功。 導語 由於決策樹的分支過多,使得訓練集某一小部分的樣本特徵被當成所有樣本所具有的一般性質,會導致過擬合現象,而決策樹應對過擬合的主要辦法就是剪枝。那麼,決策樹的剪枝具體是如何操作的? 剪枝 決策樹的剪枝分爲預剪枝和後剪枝兩種。顧名思義,預剪枝在建樹過程中進行,而後剪枝則在建樹完成之後才進行。 預剪枝 如上一節所講建樹過程,節點依據信息增益
相關文章
相關標籤/搜索