深度學習筆記5：正則化與dropout

在筆記 4 中，筆者詳細闡述了機器學習中利用正則化防止過擬合的基本方法，對 L1 和 L2 範數進行了通俗的解釋。爲了防止深度神經網絡出現過擬合，除了給損失函數加上 L2 正則化項之外，還有一個很著名的方法——dropout. 廢話少說，咱們單刀直入正題。究竟啥是 dropout ? dropout 是指在神經網絡訓練的過程中，對所有神經元按照一定的概率進行消除的處理方式。在訓練深度神經網絡時，d

>>阅读原文<<