2020李宏毅學習筆記——28.Attack ML Models(2_8)

1.怎樣模擬攻擊? 即找一張圖片,使得loss(cross-entropy loss)越大越好,此時網絡的參數訓練完了,要被凍住,不能改變,而是隻改變輸入,使我們找到這樣一張圖片,能夠讓結果「越錯越好」,離正確答案越遠越好。 在原圖中加入一些噪聲,這些噪音不是從高斯分佈來的。然後丟到模型裏面,會得到不一樣的結果。 普通的訓練模型,x0 輸出是y0,交叉熵越小越好 訓練的目標函數是:L train
相關文章
相關標籤/搜索