L1正則L2正則的公式是什麼?他們各自的特點是什麼(適用場景)?

解釋:L1正則由模型的參數的絕對值的和構成,L2範數由模型的參數的平方和構成。 L1正則能夠有效的 1)降低模型的複雜度 2)做特徵選擇 這是由於當採用L1正則後模型中對於部分特徵的權重會置零。這樣可以有效的降低有依賴的特徵,起到特徵選擇的作用,同時特徵維度降低後模型的複雜度也隨之降低。所以L1正則適用於特徵有相互依賴,且對權重是0或者非0相當敏感的模型。 L2正則能降低模型結構風險,防止模型過擬
相關文章
相關標籤/搜索