10 集成學習 - XGBoost的學習策略

09 集成學習 - XGBoost公式推導 當樹的結構確定的時候，我們可以得到最優的葉子點分數以及對應的最小損失值，問題在於如何確定樹結構？ 1、暴力窮舉所有可能的結構，選擇損失值最小的；(很難求解) 2、貪心法，每次嘗試選擇一個分裂點進行分裂，計算操作前後的增益，選擇增益最大的方式進行分。 決策樹相關算法計算指標： 1、ID3算法：信息增益 2、C4.5算法：信息增益率 3、CART算法：Gin

>>阅读原文<<