09 集成學習 - XGBoost公式推導

08 集成學習 - XGBoost概述 根據上面的知識對XGBoost公式推導 回顧: 第t次迭代後，模型的預測值= t-1次模型的預測值+第t棵樹的預測值。 目標函數可以寫成： 回顧泰勒公式： 將誤差函數在yi^ (t-1)處進行二階泰勒展開。即對原損失函數進行泰勒展開，yi是定值，y^t是變化量，即泰勒公式中的Δx。 然後將yit展開: yit = L( y^ it-1 + ft(x)) 至此

>>阅读原文<<