XGBoost算法原理

前言：有監督算法的組成：模型，參數和目標函數 （1）模型：給入指定的Xi如何去預測Yi，姑且認爲是一個Y關於X的函數吧,如線性迴歸Y=∑Wi*Xi （2）參數：就是指係數W （3）目標函數（損失+正則）：目標函數的作用是找到比較好的參數W，來更好地預測，基本形式如下： 常見的誤差函數有： （1）平方誤差： （2）logistic誤差函數： 正則化有L2和L1正則化（其區別可以看我另一篇博客） XG

>>阅读原文<<