4天，ZAO從刷屏到被約談 人工智能之路該咋走？

只需在App上傳一張照片，就能將本身的臉替換成明星的臉，併成爲影視做品裏的主角。近幾天，一款名爲「ZAO」的AI換臉App在朋友圈刷屏。

走紅的同時，也因隱私安全問題引起了網友的集體焦慮。

9月3日，工信部網站發佈公告說，針對最近引起熱議的ZAO App網絡數據安全問題，對相關負責人開展問詢約談，並要求其組織開展自查整改。

zao 背後的狂歡與擔心

8月30日晚，一款名爲ZAO的AI換臉App突然被瘋狂傳播。用戶只需經過手機號註冊，提交清晰的面部照片，便可將你想要的明星的臉「一鍵無縫」置換到本身身上，幾乎能夠以假亂真。

ZAO因零門檻、操做簡單、代入感強，很快在朋友圈引發一輪狂歡。短短一天，已位居App Store榜單第2名。有評論稱其和抖音同樣會上癮，「刷了一晚上」。

然而狂歡以後，很快就因隱私安全問題引起了網友們集體焦慮。

畢竟臉部信息是一種「生物信息」，一旦泄露帶來的影響遠比上網時產生的數據信息泄露風險更大。

並且，網友們發現，「ZAO」的用戶隱私協議簡直就是個霸王條款。雖然以後「ZAO」修改了用戶協議，但卻未消除網友們對於AI換臉的擔心。

9月3日，ZAO用戶隱私協議不規範、存在數據泄露風險等安全問題，引發了監管部門的關注，目前工信部已對相關負責人展開談約並要求其自查整改。

然而，一份「整改以後，你還願意在「ZAO」上面玩換臉嗎？」的網絡調查顯示，大多數網友選擇了「算了吧，仍是不太放心」。

刷臉支付還安全嗎？

對於用戶來講，ZAO換臉服務最大的風險在於對用戶人臉數據的收集。除了隱私，換臉應用還被質疑存在支付風險，必竟人臉與指紋、虹膜等都是能夠用做身份鑑定的信息。

對此，上海交通大學人工智能研究院教授倪冰冰認爲，目前人臉識別的算法或防攻擊的算法，無論有多先進，仍是存在被人工製造出來的假臉所攻破的風險，如今有一種對抗樣本技術，在某些假的人臉識別圖像或視頻上，作很小的發動，好比局部換一下顏色、紋理，就能夠欺騙過人臉識別的算法，使得這張假臉能夠經過刷臉認證，因此風險是始終存在的。

ZAO的安全風險被質疑後，支付寶針對刷臉支付安全性問題進行迴應，表示對於網上各類換臉的軟件，目前尚不能逃過支付寶人臉識別技術的辨別。

不過此前央視3.15晚會就曾報道過，一張照片可騙過人臉識別，此次況且是動態的「臉」，警戒心不容放鬆。另外，還有網友擔憂如何保證咱們的「臉」不被賣掉或流入色情產業鏈，畢竟你們都是要「臉」的。

人工智能該如何發展

其實，AI換臉並非新鮮事，ZAO也不是首個發明。在蘋果和安卓應用市場搜索「AI換臉」主題，還有「AI換臉」「顏技」「糰子相機」等產品。

早在2017年末，國外一位ID爲「deepfakes」的網友，創造了AI換臉算法deepfakes。這個AI換臉程序曾在國外風靡過，後來由於有人將該技術應用於色情視頻，諸多公衆人物成爲受害者，隨後被封殺。

但AI換臉技術，卻一直進化至今。好比今年初，B站UP主「換臉哥」，使用這個技術將94版《射鵰》裏朱茵扮演的黃蓉，換成楊冪的臉。

將來已來，人工智能該如何在保障安全的基礎上發展？倪冰冰建議，從法律監管層面應該儘快制定相關的法律法規，規範目前的人工智能應用，能夠在哪些領域應用，不能在哪些領域應用，若是在某些領域應用，應該遵照哪些法律底線。

另外一方面，從人工智能的研究者和應用的提供商來講，應該造成自我約束的道德準則，什麼能研究什麼不能研究，這些約束應該以行業準則的形式固定下來，而且對公衆開放，接受監督，讓普通百姓在使用人工智能技術帶來的便捷的同時，不用擔憂它所引起的風險。