01-叢神經元說起，數學篇

線性代數部分知識點回顧 範數是一種距離的表示（曼哈頓距離），或者說向量的長度。 L0範數指這個向量中非0元素的個數。 可以通過L0範數減少非零元素的個數，從而減少參與決策的特徵，減少參數。 L1範數指的是向量中所有元素的絕對值之和。它也被稱爲稀疏規則算子。 爲什麼要實現權值稀疏呢？ 在設計模型的過程中，我們有時會使用到大量的特徵，有一部分特徵對於最後結果的貢獻非常小，甚至近乎於0，這些用處不大的特

>>阅读原文<<