sklearn:梯度提升正則化

不同正則化策略對梯度提升效果的說明。 該示例取自Hastie等人2009。 使用的損失函數是二項式偏差。 通過收縮的規則化（learning_rate <1.0）可以顯着提高性能。 與收縮相結合，隨機梯度增強（子樣本<1.0）可以通過減少包裝的方差來產生更準確的模型。 沒有收縮的子採樣通常效果不佳。 減少方差的另一種策略是通過對隨機森林中的隨機分割類似的特徵進行二次採樣（通過max_feature

>>阅读原文<<