AI安全之投毒攻擊

AI安全之投毒攻擊 數據投毒 定義 適應場景： 一般解決辦法： 數據投毒 定義 主要是在訓練數據中加入精心構造的異常數據，破壞原有的訓練數據的概率分佈，導致模型在某些條件會產生分類或聚類錯誤[1]。 適應場景： 由於數據投毒攻擊需要攻擊者接觸訓練數據，通常針對在線學習場景（即模型利用在線學習數據不斷學習更新模型），或者需要定期重新訓練進行模型更新的系統，這類攻擊比較有效，典型場景如推薦系統、自適應

>>阅读原文<<