Goodfellow 等人提出 Adversarial Spheres：從簡單流形探討對抗性樣本的來源

近日，Ian Goodfellow 等人提出對抗性同心高維球，他們利用數據流形的維度來研究輸入維度的改變對神經網絡泛化誤差的影響，並表明神經網絡對小量對抗性擾動的脆弱性是測試誤差的合理反應。 已經有大量工作證明，標準圖像模型中存在以下現象：絕大多數從數據分佈中隨機選擇的圖片都能夠被正確分類，但是它們與那些被錯誤分類的圖片在視覺上很類似（Goodfellow et al., 2014; Szeged

>>阅读原文<<