20189221 2018-2019-2 《密碼與安全新技術專題》第七週做業

20189221 2018-2019-2 《密碼與安全新技術專題》第七週做業

課程：《密碼與安全新技術專題》

班級： 201892
姓名： 郭開世
學號：20189221
上課教師：謝四江
上課日期：2019年5月21日
必修/選修： 選修

1.論文復現的學習總結

Manipulating Machine Learning: Poisoning Attacks and Countermeasures for Regression Learning

做者：[Matthew Jagielski; Alina Oprea; Battista Biggio; Chang Liu; Cristina Nita-Rotaru; Bo Li

投稿：2018 IEEE Symposium on Security and Privacy (SP)

年份：2018

主題：在本文中，咱們對線性迴歸模型進行了第一次中毒攻擊的系統研究及其對策。

代碼：https://github.com/jagielski/manip-ml

相關知識：機器學習 數據安全 線性迴歸 預測模型

論文成果：

做者對線性迴歸模型的中毒攻擊及其對策進行了第一次系統研究。

做者提出了一個針對中毒攻擊和快速統計攻擊的新優化框架，該框架須要對培訓過程的瞭解不多。

做者還採用原則性方法設計一種新的魯棒防護算法，該算法在很大程度上優於現有的穩健迴歸方法。

做者在醫療保健，貸款評估和房地產領域的幾個數據集上普遍評估做者提出的攻擊和防護算法。

做者在案例研究健康應用中證實了中毒攻擊的真實含義。

做者終於相信，做者的工做將激發將來的研究，以開發更安全的中毒攻擊學習算法。

系統架構：

TRIM算法及成果：

相關數據：

2.論文復現中遇到的問題及解決

問題1：代碼調試

由於做者的GitHub中沒有寫任何與論文復現相關的東西，因此代碼調試只能純靠本身。

問題1解決：

環境配置

個人Linux是Ubuntu 18.04的，以前復現其餘論文的時候，已經在虛擬機裏裝了pip、pillow、scipy、numpy、tensorflow、keras、h5py等

sudo apt-get install python3-pip
sudo pip3 install --upgrade pip
sudo pip3 install pillow scipy numpy tensorflow-gpu keras h5py

注：沒有配novidia環境的，可使用sudo pip3 install tensorflow安裝tensorflow的CPU版

大部分庫使用pip安裝都是一件十分省時省力的事情。

以後我記得還裝了兩個依賴庫，具體記不得是哪兩個了，但都是直接按照報錯信息，使用pip安裝的。

代碼調試

一開始執行的時候報錯以下：

判斷是self.x未定義，查看gd_poisoners.py中self的定義，發現未定義self.x，self.y，但定義了self.trnx = x和self.trny = y。

判斷應該將self.x和self.y所有替換爲self.trnx = x和self.trny = y，代碼調試成功。

調用data：

運行格式：

運行結果：

3.論文的學習感悟、思考等

論文閱讀

論文的搜索工做不算太難，學校有IEEE的庫，因此選擇了S&P。

爲了找到有效論文（即有源代碼的論文），須要結合GitHub進行篩選。

論文復現

論文復現主要麻煩的是環境配置工做，代碼中的小BUG通常而言比較簡單。

論文書寫

詳細的閱讀、復現了這篇論文以後，我發現，頂會論文名副其實，其研究的深度、廣度，現實意義及論文結構，都對我接下來的論文書寫工做指明瞭方向，也促使我有了更高的自我要求。

參考資料

• Manipulating Machine Learning: Poisoning Attacks and Countermeasures for Regression Learning
• https://github.com/jagielski/manip-ml
• 對抗樣本（Adversarial Examples）和投毒攻擊（Poisoning Attacks）相關資料

附件：論文展現PPT