L0,L1,L2範數

L0範數是指向量中非0的元素的個數。 L1範數是指向量中各個元素絕對值之和，也叫「稀疏規則算子」。 L1範數和L0範數可以實現稀疏，L1因具有比L0更好的優化求解特性而被廣泛應用。 L2範數是指向量各元素的平方和然後求平方根，在迴歸裏面，有人把有它的迴歸叫「嶺迴歸」（Ridge Regression），有人也叫它「權值衰減weight decay」。它的強大功效是改善機器學習裏面一個非常重要的問題

>>阅读原文<<