決策樹的學習

          決策樹，從名字上看，就知道其模型的結構爲樹結構，決策樹既可以用於分類，也可以用於迴歸之中。在分類問題中，我們可以認爲其是if-then規則的集合，也可以認爲是定義在特徵空間與類空間上的條件概率分佈。在學習過程中，利用訓練數據和損失函數最小化的原則來構建決策樹模型，在分類過程，利用模型對新數據進行分類。直接構建模型，說明決策樹是一個判別模型。在學習過程，決策樹有主要的三個步驟：特

>>阅读原文<<