機器學習之提升

一、提升算法 提升定義：提升是一個機器學習技術，可以用於迴歸和分類問題，它每一步產生一個弱預測模型（如決策樹），並加權累加到總模型中；如果每一步的弱預測模型生成都是依據損失函數的梯度方向，則稱之爲梯度提升； 梯度提升：首先給定一個目標損失函數，它的定義域是所有可行的弱函數集合（基函數)；提升算法通過迭代的選擇一個負梯度方向上的基函數來逐漸逼近局部極小值。這種在函數域的梯度提升觀點對機器學習的很多領

>>阅读原文<<