機器學習8 -- 模型攻防（model attack & model defense）

1 什麼是模型攻防 1.1 攻防定義 我們在平常的深度學習模型開發中，一般關注的重點在模型指標上，比如ACC、F1、Bleu等。但其實還有另一方面需要注意，那就是模型攻防，特別是在人臉識別等安全領域。什麼是模型攻擊（model attack）呢？以圖片分類爲例，如下圖。原始圖片經過分類模型，可以正確識別是tiger cat。我們在圖片上加入某些一定分佈的噪聲後，模型可能就會把它錯誤識別爲其他類別，

>>阅读原文<<