2020李宏毅學習筆記——30.Attack ML Models(4_8)

1.舉一個栗子: 我們希望,把圖片丟進去之後,不可以再說是小虎斑貓 用的network是50層的ResNet-50,是一個train好的,本來檢測時好的, 經過一輪攻擊後,update50次就說是魚了,竟然非常肯定100分的說是魚。 過程: 看上去新圖片沒有什麼區別,但是我們用原圖片減新圖片,然後乘以50倍: 把貓變成鍵盤的例子: 問題可能出現在network比較弱嗎? 2.如果不是加入攻擊噪音,
相關文章
相關標籤/搜索