BadNets Identifying Vulnerabilities in the Machine Learning Model Supply Chain

摘要 基於深度學習的技術已經在各種各樣的識別和分類任務上取得了最先進的性能。然而，這些網絡通常訓練起來非常昂貴，需要在許多gpu上進行數週的計算;因此，許多用戶將培訓過程外包給雲，或者依賴於預先培訓的模型，這些模型隨後會針對特定的任務進行微調。 在本文中，我們展示了外包訓練引入了新的安全風險:攻擊者可以創建一個經過惡意訓練的網絡(一個反向塗鴉的神經網絡，或者一個壞網)，它在用戶的訓練和驗證樣本上很

>>阅读原文<<