爲什麼L1正則項產生稀疏的權重，L2正則項產生相對平滑的權重

L1 和L2正則項的定義如下： L1=∑i|wi|L2=∑i(wi)2 L 1 = ∑ i | w i | L 2 = ∑ i ( w i ) 2 首先我們先計算一下他們對應的導數，導入如下所示： ∂L1∂wi=1or−1→wt+1i=wti+η(−1or1)∂L2∂wi=wi→wt+1i=wti+ηwi ∂ L 1 ∂ w i = 1 o r − 1 → w i t + 1 = w i t +

>>阅读原文<<