正則化的方法(L1、L2、dropout等)原理與實現

一、引入原因 正則化是爲了處理過擬合問題，關於什麼是過擬合，可查看這篇博客https://blog.csdn.net/weixin_45459911/article/details/105769370 二、正則化的常用方法 1、增大訓練集 訓練的數據集規模越大，越不容易發生過擬合，但是這點往往受限於實際要求，所以有的時候很難實現。 2、L1 & L2範數 1、範數的數學定義 假設 x 是一個向量，

>>阅读原文<<