這種「換臉」視頻正在污染網路空間！Deepfakes究竟是什麼牛鬼蛇神

在互聯網的至少一個黑暗角落裡，近8萬人聚在一起分享、觀看「換臉」視頻，其中包括偽造的女明星的色情視頻，尼古拉斯·凱奇主演的《奪寶奇兵》等。《奪寶奇兵》的實際主演是哈里森?福特，而不是尼古拉斯?凱奇，但是普通人無法識破GIF的「換臉」破綻。

GIF

尼古拉斯?凱奇「主演」的《奪寶奇兵》

最初這種「換臉」色情片起源於在線論壇 Reddit，一位 ID 是 deepfakes 的用戶將《神奇女俠》主演蓋爾·加朵的臉「貼」在色情片主演臉上，上傳到網路，反響熱烈。最後，用戶 deepfakes 還專門建了個 Reddit 主題。

在這篇文章中，全媒派（ID：quanmeipai）將帶你了解deepfakes，撥開亂象，與讀者一起思考，deepfakes究竟是「紅顏」還是「禍水」。

揭下deepfakes的神秘面紗

一場依託技術的大眾狂歡

Deepfakes其實是一種逼真的交換面孔的新視頻技術。不同於一般意義上的p圖，電腦程序找到兩個面部之間的共同點，通過搭建神經網路來學習人臉，使替換以後的臉可以生動地模仿原來的表情，以假亂真。如果源素材的質量足夠高，面部的轉換幾乎是天衣無縫的。

GIF

左邊是奧巴馬的視頻素材，右邊是合成的

雖然deepfakes的工具是開源的，但是對於普通網友來說，操作還是頗有難度。在Reddit的Deepfakes主題專區，用戶deepfakeapp在deepfakes的代碼基礎上做了一套傻瓜式工具，開發了一款名為 FakeApp 的電腦軟體，可以更快速、便捷地製作這類合成視頻，使得廣大用戶都能夠操作，助推了大量類似視頻的出現和傳播。

Reddit·Deepfakes專區的Fakeapp下載界面

在這個專區里，用戶可以比較、交換自己的最新作品，比如換上艾瑪·沃森的臉的色情視頻，給普京安上特朗普的臉等。目前，該專區共吸引了9萬用戶的關注。

十二月，Motherboard做了一篇deepfakes的基礎報道，並持續追蹤。上周，有消息稱，人們正在使用這項技術來創作自己朋友和同學「主演」的色情影片。站在現在的時點上看，由deepfakes發展出來的一系列事件讓人倍感失望。

在這個片段中，我們看到加爾·蓋朵的臉疊加在色情演員的臉上。加爾·蓋朵的同意與否並沒有影響到剪輯這段視頻的Redditor，如果人們從朋友那裡收到包含此類文件的簡訊或電子郵件，他們也不知道該視頻是不是假的，因為臉部的互換非常成功，一般人看不出破綻。

GIF

加爾·蓋朵的臉，移到成人影片的主角臉上

無論是在現實生活還是在虛擬世界裡，一個毫不知情的人都不應該陷入這種境地。但是事實並非如此。根據Google的數據，「加爾·蓋朵」仍然是谷歌搜索中搜索量最高的deepfakes相關辭彙之一。

這體現了解決問題的緊迫性，即使這個問題才剛剛出現。在互聯網上發布的內容難以抹去，特別是有一群人致力於複製、傳播它的時候。人們可以在明天就停止創造新的deepfakes，但加爾·蓋朵的這段影像將會永遠留存。

禁Deepfakes 還一方凈土

Twitter方面表示，這些視頻違反了該公司的規定：「不得張貼或分享未經他人同意而製作或發行的私密照片或視頻。Twitter發言人說：「任何我們裁定是未經他人同意就製作或發布的私密圖像，我們都將凍結原上傳者的賬戶，還有所有發布此類內容的帳戶。」

Deepfakes的危害不僅僅是色情片中的「換臉」，它體現了技術的濫用所帶來一系列的危害，此前，deepfakes還將特朗普總統的臉安在希拉里·柯林頓的頭上。Reddit調整了網站上的內容條款，禁止青少年非自願型色情、有性暗示的內容出現，Deepfakes 主題在上周三也被封禁。

GIF

換成特朗普總統的臉的希拉里

色情影片分享網站Pornhub在用戶標記內容時，及時在自家平台上刪除Deepfakes的內容。在接受Mashable採訪時，PornHub副總裁Corey Price說，「已經有用戶給內容貼上「Deepfakes」的標記，一旦遇到此類標誌，我們就會馬上下架。我們鼓勵所有遇到這類問題的人登陸我們的內容刪除頁面，這樣，他們就可以正式提出請求。」

除此之外，語音聊天溝通軟體Discord也封禁了一個分享deepfakes的團體。 GIF平台Gfycat也公開譴責這些片段，告訴BBC這些片段「令人反感」。

求助無門

缺少法律支持 言論自由岌岌可危

芝加哥大學法學院專利與技術法教授喬納森·馬蘇認為，那些深受這種新技術之害的人沒有強有力的法律手段給予支撐，即使對於私人公民也是如此。

「如果是你親自拍攝的色情影片，那麼你可以告他們侵犯版權。如果有人堅稱視頻里的人是你，那麼你可以以誹謗之名提起訴訟。如果你是名人，那麼你可以公告聲稱是有人想以此牟利。但是，這些都只是這一切的一小部分，不能覆蓋絕大多數情況。」而大部分的此類視頻中都承認是偽造的，所以誹謗罪名不成立。

最近由MaryAnn Franks和Danielle Citron發起的禁止deepfakes運動不適用於這些情況，因為這些法律涉及的是私人圖像、個人視頻的流出。而在這場運動中，「沒有人的私密圖像在網上流傳，只是他們的臉安在了別人的身上」。

目前還沒有任何現存的法律，也沒有引入任何法律反對這種做法。而且，通過立法來解決Deepfakes也很棘手，因為這樣做會違反《憲法第一修正案》。

關注網上言論自由的一NGO管理者大衛格林指出，「從公民自由的角度來看，我擔心最後對deepfakes採取的措施是監管性的，最終侵犯到受保護的言論（自由）。這是一個壞主意，而且很有可能違憲，例如將該技術定性為犯罪。」

有一弊必有一利

面部識別的發展

「世間事總是有長有短，有利有弊。」雖然現在deepfakes是色情的代名詞，但是這個技術背後的基本概念是面部識別，理論上來說，它還有很多尚未發現的優點。

GIF

大家可能已經熟悉像Snapchat這樣的應用程序中基本的，實時的面部識別。該技術是根據「地標點」來映射面部，這些地標點包括你的眼睛和嘴巴的一角，你的鼻孔，以及下巴的輪廓等等。Snapchat在識別面部方面有著出色的表現，同時它也擅長加一些轉換的特效，讓你的臉部特徵更加鮮明。但是它的換臉功能仍然有不足之處，有一部分原因是Snapchat是即時處理的。

GIF

而Deepfakes的工作機理不太一樣。「FakeApp」程序使用人工智慧來完成三個主要步驟：對齊，訓練和合併。FakeApp並沒有實時將一張臉置於另一張臉上，而是使用了從視頻鏡頭中提取的數百個靜止幀圖像。它挖掘所有圖像的信息，識別臉部，分析它們如何點亮，他們是什麼表情等等。 一旦程序了解了正在處理的面孔，它就可以使用所有的「知識」來相互縫合。

雖然deepfakes目前的應用十分粗俗，但是深度的無縫轉換仍然鼓舞人心。 根據卡內基梅隆大學MultiComp實驗室主任Louis-Philippe Morency博士的說法，如果有足夠的發展，那麼實時臉部互換可能可以達到與deepfakes類似的效果，發揮積極的作用。他補充，「除了娛樂方面，這項技術還有其他重要的用途。」

舉一個例子，Morency博士說，類似的技術可以幫助創傷後精神緊張障礙的士兵與醫生進行視頻診療。一個人在「換臉」之後依然可以表達自己的情緒。 從理論上講，這將鼓勵人們接受治療，不然他們可能因為感覺上的恥辱而放棄，而且，醫生仍然可以從他們的面部表情等獲取信息，治療質量不會受到影響。

Morency博士提到的另一個可能的用途是，在視頻面試訪談中使用換臉技術來消除聘用時的性別或種族偏見。 但是，對於這些應用領域，研究人員需要更多的數據，像FakeApp這樣的開源程序可以幫助創建這些數據。「推進AI的方法是共享代碼和數據，這是人工智慧研究的助推器。」

但事情可能變得更糟

與許多新興技術一樣，最可怕的部分往往是不可預料的。 當Facebook首次在大學校園推出的時候，很少有人會想到它會成長成一個多媒體巨頭，而且還可能會破壞美國民主，但是現在我們知道了。

就像Facebook上困擾很多人的「假新聞」一樣，deepfakes可能代表的是互聯網又一次破壞我們共同現實的能力。如果每個視頻剪輯都可能是假的，那我們憑什麼相信事情是真實的？

你未出生的孫子可能會回你一句：「奪寶奇兵？你是說尼古拉斯·凱奇演的那部電影？」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！