深度學習筆記(2)：1.4 正則化 | 1.5 爲什麼正則化可以減少過擬合

1.4   正則化  考慮對LR加正則化，我們可以加L1 norm和L2 norm，如下圖所示： 圖來自於吳恩達老師深度學習課程PPT 如圖所示，我們在cost function上對W添加了正則化(這裏不考慮b，假設已經對數據進行了標準化處理)。一範數是指W所有分量(所有係數)的絕對值之和，二範數是指W所有分量的平方和開方，所以二範數的平方爲W所有分量的平方和，即W的內積。 根據對目標函數的觀察，

>>阅读原文<<