淺談決策樹

最近要學習xgboost，感覺之前對關於決策樹的知識有些淡忘，因此寫一份筆記，加深印象。 1. 決策樹模型 決策樹是一種基本的分類與迴歸方法，其模型呈現樹形結構，既可以認爲是if-then規則的集合，也可以認爲是定義在特徵空間與類空間上的條件概率分佈。學習時，利用訓練數據，根據損失函數最小化的原則建立決策樹模型；預測時，對新的數據，利用決策樹模型進行分類。決策樹的學習通常包括3個步驟：特徵選擇，決

>>阅读原文<<