正則化方法:L1和L2 regularization、數據集擴增、dropout

正則化方法:防止過擬合,提高泛化能力 在訓練數據不夠多時,或者overtraining時,常常會導致overfitting(過擬合)。其直觀的表現如下圖所示,隨着訓練過程,網絡在training data上的error漸漸減小,但是在驗證集上的error卻反而漸漸增大——因爲訓練出來的網絡過擬合了訓練集,對訓練集外的數據卻效果變得越來越差。 爲了防止overfitting,可以用的方法有很多,下文
相關文章
相關標籤/搜索