噪聲魯棒性

對於某些模型而言,向輸入添加方差極小的噪聲等價於對權重施加範數懲罰 (Bishop, 1995a,b)。在一般情 況下,注入噪聲遠比簡單地收縮參數強大,特別是噪聲被添加到隱藏單元時會更加強大。向隱藏單元添加噪聲是值得單獨討論重要的話題;

>>阅读原文<<