NLP 對抗方法整理

NLP中對抗應用

1. 分詞 ， 能夠用GAN來作，消除不一樣分詞器的差別性

2. 風格遷移， 這個在圖像中應用較多，在NLP中一樣可行

3. 提升問答系統/閱讀理解的性能。

4. 機器翻譯應該也能夠作，能夠用GAN，不一樣的翻譯規則 -> 趨於相同的答案

那這麼說，一切和消歧相關的其實均可以用GAN來作

 

QA對抗攻擊

目前能想到的：

1. 調換兩個字符的位置

2. 調換兩個單詞的位置

3. 用空白embedding代替關鍵詞embedding

4. 用類似詞代替原有關鍵詞

5. 梯度降低學習能夠攻擊成功的embedding（怎麼保證decode出來的語義合理，好比，在詞典中有所對應）

 

以上都是講在材料/supporting facts上作攻擊

一樣能夠攻擊question

1. 好比上述3,4，想辦法代替原有詞

2. 固然也有一些論文指出，QA system經常會忽略一些重要的描述詞。這個也是一個攻擊的點。