XGBOOST集成樹模型的原理梳理

0 前言 xgboost本身是集成樹模型，在瞭解其原理之前，先對樹模型的機器學習基礎知識做一定介紹。 監督學習元素 （1）學習模型（即已知x,求出y的模型表達式） 比如：線性模型； 邏輯迴歸模型； （2）參數 從數據當中學習得到模型參數。 （3）目標函數 包含兩部分：損失函數+正則項 損失函數是衡量模型擬合訓練數據的能力。 在訓練數據上的損失函數，有多種形式：比如平方損失、邏輯迴歸損失； 正則項是

>>阅读原文<<