深度學習——L1及L2範數

在深度學習中，監督類學習問題其實就是在規則化參數同時最小化誤差。最小化誤差目的是讓模型擬合訓練數據，而規則化參數的目的是防止模型過分擬合訓練數據。 參數太多，會導致模型複雜度上升，容易過擬合，也就是訓練誤差小，測試誤差大。因此，我們需要保證模型足夠簡單，並在此基礎上訓練誤差小，這樣訓練得到的參數才能保證測試誤差也小，而模型簡單就是通過規則函數來實現的。   L1範數和L2範數的差別 一個是絕對值最

>>阅读原文<<