丟棄法Dropout

丟棄法Dropout:一種抑制過擬合的方法。 上圖中提到的兩種解決方案:1.downgrade_in_infer:訓練時隨機丟棄一部分神經元;預測時不丟棄神經元,這裏提到的不丟棄神經元是指預測時不丟棄在訓練時隨機丟棄的那部分神經元,但是把全部分神經元的數值變小,來使最後的輸出數據總大小不變。 2.upscale_in_train:訓練時隨機丟棄一部分神經元,但是把保留的那些神經元數值放大(放大比例
相關文章
相關標籤/搜索