人工智能的三大侷限性

任何技術都有侷限性，AI和人工智能也不例外。其侷限有三：檢測、功耗和人力。

思科一份最近的調查顯示，39%的CISO稱其公司依賴自動化推進網絡安全工做，另有34%稱依賴機器學習，32%報告稱高度依賴人工智能(AI)。CISO如此看好AI使人頗爲意外，畢竟，除了識別惡意行爲，AI在網絡安全方面的應用場景彷佛也不是不少。

老實說，AI絕對有益於網絡安全。隨着惡意軟件像流感病毒同樣不斷自我變異，不使用AI幾乎不可能發展出恰當的響應策略。銀行或信用卡提供商之類的金融機構也能夠經過適當訓練的AI大幅強化其SIEM系統，提高欺詐檢測和預防能力。但AI並不是萬靈丹，炒做得再多也不是。事實上，與其餘任何技術同樣，AI也有其侷限性。

1. 騙過一次就能暢通無阻：AI可用於欺騙其餘AI

這是個大問題。安全人員用AI優化威脅檢測的同時，攻擊者也在琢磨着用AI規避檢測。公司企業用AI以更高的準確率檢測攻擊，攻擊者就用AI來開發更智能、會進化的惡意軟件來規避檢測。基本上，惡意軟件就是用AI來逃過AI檢測。惡意軟件一旦經過了公司的AI檢測關，能夠很輕鬆在公司網絡內橫向移動而不觸發任何警報，公司的AI會將惡意軟件的各類探測行爲當作統計錯誤加以排除。而到惡意軟件被檢出之時，安全防線早已被洞穿，傷害也可能已經形成。

2. 功耗成問題：低功耗設備可能拖不動AI

物聯網(IoT)設備一般都是低功耗小數據量的。若是攻擊者成功將惡意軟件部署到了這一層次，那AI基本就頂不上用了。AI須要大量內存、算力和大數據才能夠發揮做用。而IoT設備一般不具有這幾個條件，數據必須發送到雲進行處理才能夠受到AI的響應。而那時，已經太遲。就好像出車禍時車載AI會自動撥打報警電話並報告車輛所處位置，但車禍已經發生的事實改變不了。車輛自動報警可能比等路人幫忙報警要快一點，但仍然沒法預防撞車。AI最多有助於在設備徹底失控以前檢測出有什麼不對勁，或者，在最壞的狀況下，讓你不至於失去整個IoT基礎設施。

3. 已知的未知：AI沒法分析本身不知道的東西

嚴格控制的網絡上AI運行良好，但現實世界繽紛多彩不受控。AI有四大痛點：影子IT、BYOD項目、SaaS系統、僱員。不管你給AI灌注了多少大數據，都得同時解決這4個痛點，而這是難度大到幾乎不可能的任務。總有僱員會經過不安全WiFi網絡在我的筆記本電腦上打開公司的Gmail郵件，而後，敏感數據就此流失，AI甚至連知道這一事件的機會都沒有。最終，公司本身的應用能夠受到AI保護，防止用戶誤用，但終端用戶使用你根本感知不到的設備你是沒法防禦的。另外，僅提供智能手機App，不提供企業訪問控制，更不用說實時日誌的雲系統，你又怎麼引入AI呢?這種狀況，企業沒有辦法成功利用機器學習。

AI確實有所幫助，但它並不是遊戲規則顛覆者。AI可用於在受控系統中檢測惡意軟件或攻擊者，但難以防止惡意軟件被部署在公司系統中，並且除非你確保它能控制你全部終端設備和系統，不然它一點用都沒有。網絡攻防戰一直在繼續，只不過，防護者和攻擊者都在用與以往不一樣的武器，而咱們的防護只有在恰當部署和管理之下才會有效。

與其將AI當成網絡安全救星，不如把精力放在更基本的老問題上：缺少控制、缺少監視、缺少對潛在威脅的理解。只有瞭解了用戶和用戶使用的設備，知道用戶都會拿這些設備來幹什麼，而後確保所用系統能切實受到AI的保護，才能夠開始部署並訓練AI。

原文來自：http://zhuanlan.51cto.com/art/201807/580141.htm

本文地址： https://www.linuxprobe.com/ai-boundedness.html編輯：姜傳廣  審覈員：逄增寶