【譯】Attacks against machine learning — an overview

這篇博客文章調查了針對AI(人工智能)系統的攻擊技術以及如何防範它們。html 在較高級別,對分類器的攻擊能夠分爲三種類型:node 對抗性輸入 ,這是特製的輸入,其目的是可靠地錯誤分類以逃避檢測。 對抗性輸入包括旨在逃避防病毒的惡意文檔,以及試圖逃避垃圾郵件過濾器的電子郵件。 數據中毒攻擊 ,涉及將訓練對抗數據提供給分類器。 咱們觀察到的最多見的攻擊類型是模型傾斜,攻擊者試圖以這樣的方式污染訓練
相關文章
相關標籤/搜索