嶺迴歸與Lasso迴歸

嶺迴歸 解決了線性迴歸參數β可能出現的不合理現象，彌補其短板： 1.當線性迴歸數據的行數小於列數 2.數據中變量之間存在多重線性關係 實現的思路其實就是在線性迴歸的基礎上加一個l2懲罰項（正則項） 將模型做凸優化 而且係數本質上就是求半橢圓體與圓柱體的焦點 Lasso迴歸 嶺迴歸模型解決了線性迴歸模型中矩陣X’X不可逆的辦法是添加l2正則的懲罰項，但缺陷在浴室中保留建模時所有變量，無法降低模型的復

>>阅读原文<<