L1正則化和L2正則化面試常考題

正則化 L1正則化和L2正則化可以看做是損失函數的懲罰項。所謂「懲罰」是指對損失函數中的某些參數做一些限制 L1正則化是指權值向量w中各個元素的絕對值之和 L2正則化是指權值向量w中各個元素的平方和然後再求平方根 L1正則化和L2正則化區別 L1正則化可以產生稀疏權值矩陣，即產生一個稀疏模型，可以用於特徵選擇 L2正則化可以防止模型過擬合；一定程度上，L1也可以防止過擬合 正則化爲什麼能降低過擬合

>>阅读原文<<