https://www.ctocio.com/bigdata/ai/31403.htmlhtml
剛剛結束的RSAC2020大會主題爲「人的因素」，業界普遍討論的是如何強化和緩解人這一重要環節的脆弱性，但不少人忽略了「Human Element」背後的隱藏含義：淘汰一切能夠淘汰的「人的因素」，纔是網絡安全將來最大的商機。算法
根據MarketsandMarkets人工智能網絡安全預測報告，到2026年，人工智能網絡安全市場規模預計將從2019年的88億美圓增加到382億美圓，年複合增加率高達23.3％（下圖）。安全
市場增加的主要驅動力是新的攻擊面和攻擊矢量每每超出傳統安全防護體系的感知範圍、處理能力和響應速度，例如物聯網的普及和聯網設備的數量不斷增長、網絡威脅實例不斷增長、對大數據隱私問題的擔心日益增長。微信
此外Wi-Fi網絡的脆弱性在新興威脅中暴露出的問題也日益嚴峻，例如本期微信二條介紹的，可經過WiFi網絡實施的「智能手機超聲波攻擊」，以及安全牛以前報道過的《木馬病毒Emotet可「空氣傳播」：感染附近WiFi網絡》。網絡
與此同時，人工智能在網絡安全市場中的潛在機遇包括中小企業對基於雲的安全解決方案的需求不斷增加，以及愈來愈多地使用社交媒體來實現業務功能。微盟刪庫事件給全部企業CISO當頭一棒：機器學習
人工智能永遠拍不出鬼片，但人會，越重要的人員越容易拍出票房過10億的大片。人工智能最大的優勢是六親不認油鹽不進，面對網絡犯罪分子屢試不爽的社工攻擊，人工智能員工（例如呼叫中心程序或者半人半AI的混合型Cyborg員工）徹底不懂如何上當。工具
參考閱讀：
毫無人性，人工智能纔是社工攻擊的剋星
學習
攻擊性人工智能技術熱點測試
若是您認爲以上都是危言聳聽，譁衆取寵，那麼咱們來看看咱們的對手，網絡犯罪分子們將如何用人工智能技術「降維打擊」現有的安全防護體系：大數據
AI/ML 數據中毒與破壞
攻擊者試圖投毒（例如對抗性數據樣本）業務應用中的AI/ML訓練數據，以便破壞決策和運營。安全行業需密切關注此類新型攻擊案例。試想，若是依賴AI自動化供應鏈的公司企業遭遇此類攻擊，會發生什麼狀況？被污染的數據很可能致使產品供應嚴重不足或過剩。
Splunk高級副總裁兼安全市場總經理宋海燕表示：
咱們預期將會看到用似是而非的數據樣本給算法投毒的攻擊，這些攻擊的目的是帶偏機器學習算法的學習過程。這不只僅是愚弄智能技術，而是讓學習算法看起來彷佛工做正常，產出的倒是錯誤的結果。
虛假音頻技術將商務電郵入侵帶入新徵程
商務電郵入侵（BEC）指的是攻擊者冒充CEO或其餘高級經理，以完成交易或履行業務的名義，誘騙公司銀行帳戶負責人作出錯誤轉帳。BEC每一年給公司企業形成高達數十億美圓的損失。現在，在AI技術加持下，BEC攻擊藉助虛假電話音頻再登新高峯。2019年咱們已經見識到了第一波利用虛假音頻冒充公司CEO來電的攻擊事件。其中一個案例裏，一家英國能源公司的員工被騙向攻擊者的銀行帳戶裏轉入了24萬美圓。專家認爲，2020年將出現更多利用AI技術僞造的CEO虛假音頻執行的BEC攻擊。
Illumio創始人兼首席技術官PJ Kirner稱：
即使公司已經培訓員工如何識別潛在網絡釣魚電子郵件，仍有太多員工沒準備好面對網絡釣魚音頻，由於這些虛假音頻聽起來太可信了，並且真的沒什麼有效的檢測方法。並且，即便此類‘音頻釣魚’攻擊爲人所知之後，咱們也將在明年看到更多惡意黑客利用高管層的聲音執行攻擊。
人工智能惡意軟件規避沙箱
深度僞造的音視頻還只是壞人利用AI實施攻擊的方式之一。安全研究人員須要繃緊神經，對AI驅動的惡意軟件規避技術嚴陣以待。有些安全人員認爲，2020年多是惡意軟件使用AI模型繞過沙箱的元年。
人工智能技術加持的惡意軟件能夠提升隱蔽性和針對性，繞過主流的檢測技術。例如IBM的AI惡意軟件概念驗證工具DeepLocker可以利用可公開獲取的數據對網絡安全工具隱瞞本身，而且處於休眠狀態，直到達到預約目標爲止。一旦經過面部或語音識別檢測到目標，便會執行惡意載荷。
Blue Hexagon首席技術官Saumitra Das預測：
惡意軟件做者將拋棄用規則來肯定‘特性’和‘進程’是否代表樣自己處沙箱之中的作法，轉而採用AI加以判斷，有效建立可以更準確分析自身環境的惡意軟件，肯定自身是否在沙箱中運行，進而增長沙箱規避有效性。
生物特徵識別的貓鼠遊戲
隨着AI和生物特徵識別技術用於驗證客戶身份，金融服務行業的反欺詐將上演貓鼠遊戲。金融機構正快速迭代身份驗證機制，使用人臉識別和AI掃描、分析並確認手機攝像頭和身份證件生成的在線身份。但他們需保持警戒，由於壞人也會用AI建立深度僞造的ID，騙過這些生物特徵識別驗證系統。
Jumio總裁Robert Prigge表示：
2020年，咱們將看到深度僞造技術武器化的上升，此類技術將隨生物特徵識別身份驗證解決方案的普遍採納而被惡意黑客大肆濫用。
參考閱讀：
打人不打臉：人臉識別濫用的十大應對方案
差分隱私在分析數據保護領域引起關注
大數據、AI和嚴格的隱私監管三管齊下，公司企業爲此頭疼不已，迫使安全及隱私從業者開發更好的隱私保護方法，屏蔽當今諸多AI應用賴以起效的客戶分析數據中的敏感信息。好消息是，咱們也能夠運用其餘形式的AI實現這一點。
Avast人工智能主管Rajarshi Gupta稱：
2020年咱們將看到AI算法的實際應用，包括共享數據集中模式描述的同時隱藏我的信息的差異隱私系統。
Gupta認爲，差分隱私將使公司企業在不暴露客戶和其餘我的的隱私信息的狀況下，仍能像如今同樣從大數據洞見中獲益。
AI倫理與公平的沉痛教訓
AI倫理、公平與影響的沉痛教訓就在前方。這些問題值得安全主管們嚴肅對待。他們必須保護依賴AI運行的系統的完整性與可用性。
博思艾倫諮詢公司網絡安全戰略負責人，RSA大會諮詢委員會成員Todd Inskeep表示：
明年網絡安全領域中AI的使用將給咱們帶來不少新的經驗教訓。近期Apple Card給男性和女性設置不一樣信用額度的案例，凸顯出咱們並未真正理解AI算法機制的事實。咱們將會發現一些AI陽奉陰違或者磨洋工的案例。
防護性人工智能安全技術熱點
凱捷研究所針對850名企業高級管理人員的調查發現，2019年五分之一的企業使用AI網絡安全技術，多達三分之二的企業表示2020年計劃將人工智能技術全面應用於威脅發現、預測和響應。超過70％的組織當前正在測試AI網絡安全用例，涉及從欺詐和入侵檢測到風險評分和用戶/機器行爲分析（UEBA）的全部方面。不一樣領域的需求熱度分佈以下：
凱捷的調研結果呼應了本文開頭引用的預測數據——2019年人工智能網絡安全市場的價值已達到88億美圓，2026年將突破380億美圓。顯然不管是企業界仍是網絡安全行業都對人工智能的價值深信不疑。
最初，人工智能在安全防護領域的應用都是一些比較簡單的場景（例如電子郵件垃圾郵件過濾器），2020年開始，人工智能技術將擴展到網絡安全團隊的全部職能和部門，從網絡釣魚、惡意軟件到郵件安全、反欺詐、行爲分析和APT防護。
人工智能技術的關鍵是數據，這意味着企業越早「挖坑蓄水」，其人工智能防護系統積累的可用數據越多，安全防護能力越強。
例如，每一個網絡釣魚電子郵件都會留下大量數據。機器學習算法能夠收集和分析此數據，以經過檢查已知的惡意標記來計算可能有害的電子郵件的風險。
分析級別還能夠擴展到掃描郵件正文中的附件和URL，甚至還能夠藉助計算機視覺的機器學習，檢測到冒充合法網站的網絡釣魚網站。
相似的機器學習模型還能夠應用於其餘常見威脅，例如惡意軟件。惡意軟件會隨着時間的推移而增加和發展，而且常常在組織發現以前形成至關大的破壞。
採用人工智能技術的網絡安全防護能夠依靠之前相似攻擊的數據和經驗來更快地應對此類威脅，以預測並阻止其擴散。隨着技術的不斷髮展，其在網絡安全防護中的普及程度也將不斷提升。
根據報告，如下領域的人工智能安全技術最具潛力：
欺詐偵測、用戶/機器行爲分析、風險評分、入侵檢測和惡意軟件檢測是現階段人工智能安全技術商業化潛力最大的應用（收益高、複雜性低）。
最後，咱們須要記住：人工智能的最大優勢就是它的速度。機器學習算法能夠快速應用複雜的模式識別技術來發現和阻止攻擊，其部署和響應速度比任何人都快。