1、深度學習入門級別 的 損失函數整理

一、L1、L2     中文稱作L1正則化和L2正則化，或者L1範數和L2範數。L1正則化和L2正則化可以看做是損失函數的懲罰項。所謂『懲罰』是指對損失函數中的某些參數做一些限制。 L1：  =， 即各元素的絕對值之和 。作用：產生一個稀疏模型，可以用於特徵選擇，一定程度上也可以防止過擬合。 L2：=，即各元素的平方值之和，。作用：防止過擬合。 問題：是否可以組合L1、L2用於懲罰項，以兼顧其各自

>>阅读原文<<