用深度學習技術造假巨星短視頻，狂攬幾十萬粉絲

三天前，一個名爲@deeptomcruise的TikTok帳號開始發佈好萊塢巨星湯姆-克魯斯的視頻片斷，從打高爾夫到在乎大利的一家男裝店裏被絆倒後講笑話，再到用硬幣表演魔術。在這三段視頻中，克魯斯每一段都會發出他標誌性的狂笑，不過雖然全部這些視頻中的人看起來都和湯姆-克魯斯如此相像，但這些都不是克魯斯，而是用深度僞造視頻技術「deepfake」製做的假視頻。

若是仔細觀察就能夠發現一些疑點，首先視頻裏的湯姆-克魯斯看起來要比58歲年輕不少，

並且也要比真人高出不少。此外，他的聲音也有明顯的不一樣。

不過大多數網友並無注意到這些，這個名爲@deeptomcruise帳號已經積累了23.6萬名粉絲，而且粉絲數還在不斷增長中。目前TikTok官方沒有發表上傳使用「deepfakes」技術的視頻是否違反了服務條款，但有很多用戶已經感受事情的嚴重性，而且有人建議：每一個公衆人物都應該在那裏註冊一個通過驗證的帳號，即便他們不發佈內容，這樣更容易讓用戶識別假冒的帳號。

---

麻省理工學院的研究人員對這項技術進行了詳細的解釋，@deeptomcruise 正在使用 「deepfakes」技術，這是一個結合了 「深度學習 」和 「假貨 」的術語，一種特殊的合成媒體，在這種媒體中，圖像或視頻中的一我的與另外一我的的肖像進行了交換。

爲了製做一個深度僞造視頻，製做者使用面部識別算法和一個稱爲變異自動編碼器[VAE]的深度學習計算機網絡，將一我的的臉換成另外一我的的臉。VAE被訓練成將圖像編碼成低維表示，而後將這些表示解碼回圖像。例如，若是你想將任何視頻轉化爲影星尼古拉斯-凱奇的「深度僞造」，你須要兩個自動編碼器，一個是在演員臉部的圖像上訓練的，另外一個是在多種臉部的圖像上訓練的。

這兩個訓練集所使用的人臉圖像能夠經過對視頻幀應用面部識別算法來策劃，以捕捉天然發生的不一樣姿式和照明條件。一旦完成這種訓練，你就能夠將在多樣化的人臉上訓練的編碼器與在尼古拉斯-凱奇的臉上訓練的解碼器結合起來，從而在別人的身體上造成演員的臉。

---

這項技術早在2017年就出現公衆視野中，那時有不少美國前總統特朗普的追隨者發佈了大量假新聞，在2019年的電影《愛爾蘭人》中這項技術也被大量使用，人們對這項技術的評價很是兩極化，喜歡的人以爲這將開啓一個電影新時代，討厭的人以爲會有人用它來進行「犯罪」。

目前來講@deeptomcruise帳號裏發佈的視頻並無任何危害，但仍是但願視頻平臺加速制定「deepfakes」製做視頻發佈規則，避免有用戶上當受騙。