三星開發全新Deepfake AI系統，可根據一張照片生成偽造視頻

【獵雲網（微信號：ilieyun）】5月24日報道（編譯：檸萌）

想像一下，如果有人通過竊取你的Facebook個人資料照片創建了一個偽造的視頻，這是多麼恐怖的一件事啊。幸運的是，壞人還沒有掌握這種技術。

但是，三星已經找到了實現這一目標的方法。

通常來說，這種偽造視頻需要龐大的圖像數據集才能讓視頻逼真。現在，三星已經開發出一種新的AI系統，可以根據一張照片生成偽造視頻。

當然，這項技術可用於娛樂，例如將經典肖像帶入生活。通過將蒙娜麗莎的神秘笑容在三個不同的視頻中展示，我們可以更深入地了解這項新技術。這項新AI技術，由俄羅斯的三星人工智慧實驗室開發，本周早些時候三星在一篇論文中詳細介紹了該技術。

但是，這項新技術也存在一些缺點。達特茅斯大學的研究人員Hany Farid表示，這類技術及其快速發展也給人們帶來了一些錯誤的引導，有篡改選舉和欺詐的風險。

Farid說：「按照過去一年的趨勢，這種技術和相關技術所需的數據越來越少，生成的內容也越來越複雜、越來越吸引人。儘管三星的程序可能會產生視覺故障，但是這些結果是技術進化的又一步表現……這就導致了多媒體內容的創作，而這些內容最終將無法與真實內容區分開來。」

就像Photoshop一樣，Deepfake軟體通過使用機器學習，製造出一個會說話、會移動的人來進行模擬，從而達到令人信服的目標。儘管計算機操縱視頻已經存在幾十年了，但Deepfake系統可以讓視頻片段編輯不僅更容易創建，而且更難檢測。不妨把它們想像成逼真的數字木偶。

很多時候，Deepfake製作出來的視頻就像製作「蒙娜麗莎」人物一樣，都是無害的樂趣。這項技術讓一種完整的模因成為可能，比如可以製作一款將尼古拉斯·凱奇的臉放在電影和電視節目中的模型。當然，Deepfake技術也可能被不法分子拿來做壞事，比如當它被用來將一個不知情的人的臉移植到成人電影中時，這種情況就有點嚴重了。

在本周早些時候發布的論文中，三星的人工智慧實驗室將其發明命名為「現實的神經談話頭」。術語「談話頭」指的是系統可以創建的視頻類型；這類似於你在電視新聞上看到的那些權威人士的視頻框。「神經」這個詞是對神經網路的一種致敬，神經網路是一種模仿人腦的機器學習。

研究人員看到他們的突破被用於各種應用，包括視頻遊戲、電影和電視。他們寫道：「這種能力具有遠程呈現的實際應用，包括視頻會議和多人遊戲，以及特效行業。」

這篇論文還配有一段展示該團隊創作成果的視頻，而這段視頻的配樂也恰好帶有寒意，令人不安。

通常，一個合成的「說話頭」需要你訓練一個AI系統處理一個人的大量圖像數據集。鑒於需要這麼多的個人照片，Deepfake的目標通常是公眾人物，比如名人和政客。

三星的系統使用了一個技巧，這個技巧似乎受到Alexander Graham Bell的名言「準備是成功的關鍵」的啟發。該系統從一個漫長的「元學習階段」開始，在這個階段，它會觀看大量視頻來學習人臉是如何移動的。然後，它將學到的知識應用到單個靜止或少量圖片上，生成一個相當逼真的視頻剪輯。

與真正的Deepfake視頻不同的是，當再現細節時，單個或少量圖像的結果是不真實的。比如，紐約奧爾巴尼大學專攻媒體取證和機器學習的計算機科學教授Siwei Lyu說，三星實驗室演示視頻中的瑪麗蓮·夢露偽造視頻漏掉了她十分顯眼的痣。這也意味著合成的視頻往往保留了一些扮演數字木偶角色的人的外表。這就是為什麼蒙娜麗莎的每一張臉看起來都有點不同。

一般來說，Deepfake系統的目標是消除這些視覺障礙。這需要輸入視頻和目標人員提供大量有意義的訓練數據。

這種方法的少樣本學習或一眼學習的效果很好，因為這意味著通過訓練大量的視頻可以訓練出一個龐大的網路，而這需要很長時間。這種系統可以快速適應新的目標人群，只使用少量圖像，而無需進行大量的再訓練。他說：「這在概念上節省了時間，並使模型可推廣。」

人工智慧的迅速發展意味著，任何時候，只要研究人員在Deepfake上分享了取得的突破，圖謀不軌之人就可以開始利用臨時拼湊的工具來模仿它。三星的進步可能很快就會被更多的人所接受。

用三星新方法製作的假視頻中的小瑕疵可能是顯而易見的。但是，對於那些因為在Facebook上發布一張微笑照片而陷入造假風波的人來說，這並不是什麼安慰。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！