Deep Learning讀書筆記3---深度學習中的正則化

1.概念 正則化定義爲「對學習算法的修改——旨在減少泛化誤差而不是訓練誤差」。 目前有許多正則化策略。 有些策略向機器學習模型添加限制參數值的額外約束。 有些策略向目標函數增加額外項來對參數值進行軟約束。 有時侯，這些約束和懲罰被設計爲編碼特定類型的先驗知識； 其他時候，這些約束和懲罰被設計爲偏好簡單模型，以便提高泛化能力。 有時，懲罰和約束對於確定欠定的問題是必要的。 其他形式的正則化，如被稱爲

>>阅读原文<<