你真敢ZAO嗎？解讀換臉AI 「細思極恐」的用戶協議

新聞 09-02

新智元報道

編輯：張佳、小芹

【新智元導讀】經過一個周末的發酵，一夜爆紅的換臉APP「ZAO」已經被推到了輿論的風口浪尖，在娛樂的同時，涉及的技術問題、隱私問題、安全問題備受關注。現在我們冷靜下來再審視這個ZAO。

周末你ZAO了嗎？

8月30日晚間，一個名為「ZAO」的APP一夜爆紅，有的人嘗鮮樂此不疲、有的人則對其中涉及到的隱私問題憂心忡忡。到了第二天，這個APP已經被推到了輿論的風口浪尖。

目前，ZAO的微信分享鏈接顯示已停止訪問，頁面顯示「網頁存在安全風險，被多人投訴，為維護綠色上網環境，已停止訪問」。

經過一個周末的發酵，我們現在冷靜下來再審視這個ZAO。

ZAO是做什麼的？

「僅需一張照片，出演天下好戲」，正如這句廣告語，ZAO其實是一個換臉APP。用戶只需上傳一張面部照片，再選一個自己喜歡的影片片段和角色，就可以把這些角色的面孔換成自己的模樣，簡直是不費吹灰之力過了一把「明星」癮。

因此，ZAO瞬間走紅的原因不外乎兩個：第一，使用門檻低；第二，可以滿足大家的「明星夢」。

從一夜爆紅到幾乎全民聲討，ZAO的用戶協議「細思極恐」

從一夜爆紅到幾乎全民聲討，ZAO到底做錯了什麼？其實，最主要的原因就是「隱私」二字。

知乎的一則相關提問：「如何看待 AI 換臉軟體「ZAO」的爆火？」已經被瀏覽了576萬次，引髮網友熱烈討論。

知乎網友「法山叔」看了ZAO的用戶協議後得出了兩個結論：

1、「ZAO」app涉嫌過度攫取用戶授權，讓你在無形中將自己的肖像權拱手讓人，以後你的臉將完全有可能被別人隨意使用，變換；

2、zao並未獲得換臉明星們的肖像權授權，你變臉涉嫌侵權，但當明星認為自己的權利受到侵害時，「ZAO」app將完全有可能將法律的鍋全部甩給你，讓你自己承擔侵權苦果。

「法山叔」為我們解讀了用戶協議中「細思極恐」的地方：

用戶協議第6條第1款規定：「在您上傳及/或發布用戶內容以前，您同意或者確保實際權利人同意授予zao及其關聯公司以及zao用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於可以對用戶內容進行全部或部分的修改與編輯...」以及對修改前後的用戶內容進行信息網路傳播以及著作權人享有的全部著作財產權利及鄰接權利。"

這是什麼意思呢？你在正式使用該app以前，是要上傳自己肖像的，不僅靜態，還有動態，而當你選擇使用這個app以後，根據協議內容，該app除了可免費使用並修改你的肖像，還可以將它任意授權給自己想授權的第三方，當做信息進行販賣。所以當有一天，你在zao或者其它關聯平台上發現你的臉被隨意變換、不再屬於自己的時候，你想起訴zao，不好意思，它會拿出這個協議來堵你的嘴，告訴你你自己早已同意。

「法山叔」還為我們解讀了關於侵權的規定：

第6條第2款明確規定：「如果您把用戶內容中的人臉換成您或其他人的臉，您同意或確保肖像權利人同意授予『zao』及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。」

這是什麼意思呢，比如現在你將楊冪的臉換成自己的臉，你除了要保證自己永久、不可撤銷地把自己的肖像免費給zao使用，還要保證楊冪同意zao及關聯公司使用她的肖像...但你又不是楊冪，你怎麼能確保？這不搞笑嗎。而他這麼做，說白了，就是因為自己沒錢拿到明星們的授權，日後侵權，他們可以將鍋甩給你們。

而在此情形下，協議第七條第7款規定：若您侵害他人名譽權、肖像權、知識產權等合法權利的...zao可以訴諸行政執法機構或司法機關，追究相應法律責任。若因您違反本協議或zao平台的其他規則導致任何第三方損害的，您應當獨立承擔法律責任並承擔損害賠償責任；zao及其關聯公司遭受損失的，您也應當一併賠償。

意思即，如果楊冪狀告zao，主張自己的肖像權被zao平台濫用，那zao完全可能說這不怪我，技術無罪，要怪就怪這些換你臉的用戶，並且，即使zao承擔了平台責任，其也完全可以起訴具體用戶進行追償。總的來說，他們把自己的屁股擦得非常乾淨，將侵權的苦果全部甩給了用戶。

「法山叔」還提醒道：現在人臉支付，手機人臉解鎖正逐漸普及，如果它擁有你的動態肖像權，那背後可能出現的問題豈不是更令人不堪設想。

新智元經授權引用「法山叔」的知乎回答，原回答鏈接：

鏈接：https://www.zhihu.com/question/343647357/answer/808994379

這又引發了一個新問題，現在的人臉支付、手機人臉解鎖會因為ZAO的出現而有安全風險嗎？玩這個軟體會不會導致自己的支付寶刷臉被冒充？

根據「支付寶」的回應：不會的。因為「支付寶「刷臉支付」採用的是3D人臉識別技術：在進行人臉識別前，會通過軟硬體結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟體模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。」而且，支付寶表示：即便出現賬戶被冒用的極小概率事件，資金損失也會通過保險公司進行全額賠付。

「換臉」不新鮮，Deepfakes技術詳解

雖然ZAO沒有公布使用的具體技術，但其實，AI換臉並不是非常新鮮的技術了。前一陣子便有朱茵變楊冪，海王變徐錦江的相關報道。

《射鵰英雄傳》中，朱茵變楊冪

海王變徐錦江

這些技術的背後，是2017年年底的Deepfakes軟體帶來的結果。當時Reddit用戶Deepfakes，將《神奇女俠》的女主角蓋爾·加朵、以及艾瑪沃森、斯嘉麗等眾多女明星的臉跟AV女優進行了交換，製作出足以以假亂真的愛情動作片。

接下來我們來了解下Deepfakes的技術內容：

Deepfakes 使用生成對抗網路(GAN)，其中兩個機器學習模型進行了較量。一個ML模型在數據集上進行訓練，然後創建偽造的視頻，而另一個模型嘗試檢測偽造。偽造者創建假視頻，直到另一個ML模型無法檢測到偽造。訓練數據集越大，偽造者越容易創建可信的deepfake視頻。

上圖顯示了一個圖像(在本例中是一張臉)被輸入到編碼器(encoder)中。其結果是同一張臉的低維表示，有時被稱為latent face。根據網路架構的不同，latent face可能根本不像人臉。當通過解碼器(decoder)時，latent face被重建。自動編碼器是有損的，因此重建的臉不太可能有原來的細節水平。

程序員可以完全控制網路的形狀：有多少層，每層有多少節點，以及它們如何連接。網路的真實知識存儲在連接節點的邊緣。每條邊都有一個權重，找到使自動編碼器能夠像描述的那樣工作的正確權重集是一個耗時的過程。

訓練神經網路意味著優化其權重以達到特定的目標。在傳統的自動編碼器的情況下，網路的性能取決於它如何根據其潛在空間的表示重建原始圖像。

訓練Deepfakes

需要注意的是，如果我們單獨訓練兩個自動編碼器，它們將互不兼容。latent faces基於每個網路在其訓練過程中認為有意義的特定特徵。但是如果將兩個自動編碼器分別在不同的人臉上訓練，它們的潛在空間將代表不同的特徵。

使人臉交換技術成為可能的是找到一種方法來強制將兩個潛在的人臉在相同的特徵上編碼。Deepfakes通過讓兩個網路共享相同的編碼器，然後使用兩個不同的解碼器來解決這個問題。