人工智慧達到以假亂真，真假難辨可能帶來嚴重後果

幸虧有了機器學習，使得生成逼真的視頻和模仿別人變得更加容易。

強大的機器學習技術使得生成逼真的視頻和音頻變得更加容易。如果你想模仿別人，這些技術也能讓你輕易做到，並且極高的相似性讓你難以置信。

最近，俄羅斯的一家公司發布了一款智能手機應用程序FaceApp。這款程序能夠自動修改某人的面部特徵，如添加微笑，增減年齡，交換性別。它也具有「美顏」功能，能消除臉上的皺紋，使皮膚煥發光澤。

前不久，誕生於加拿大蒙特利爾大學的一家公司 Lyrebird展示了一種能夠模仿人聲音的技術。該公司公布了一些示範片段（這些片段模仿了奧巴馬、希拉里、特朗普），驗證了該技術的可行性。

這兩個例子都說明強大的機器學習演算法不僅僅能夠分析數據，更能用於生成內容。

強大的圖形硬體、軟體以及新的視頻捕捉技術正在驅動著這種趨勢的發展。去年，斯坦福大學的研究人員展示了一款名為「Face2Face」的臉部交換程序。該程序能夠操縱錄像片段，以使一個人的面部表情能與深度感應相機記錄的其他人的面部表情相匹配。其逼真結果往往令人難以置信。

正如Lyrebird的創造者所承認的那樣，能夠如此逼真地操縱聲音和人臉可能會引發一些問題。

該公司在其官網上進行了道德聲明：語音記錄目前被認為是刑事偵查最強有力的證據之一，尤其是在許多國家的司法管轄區，語音記錄極為重要。如今，我們的技術使得這種證據受到了質疑，這可能會造成非常嚴重的後果。

FaceApp和Lyrebird的這種技術都依賴於深度生成卷積網路，這意味著近年來流行的深度學習不僅僅能夠學習分類，還能夠自己生成貌似合理的數據。

目前，人工智慧領域內的許多任務都需要訓練大型的、深度的神經網路。這些網路根據輸入的訓練數據，自動調節網路參數，以使得它們能夠對新輸入的數據以高精度做預測。例如，可以訓練神經網路進行人臉識別或對象識別。

從頭開始訓練一個能夠生成逼真的圖像的神經網路是可能的。在未來，使用相同的技術，也可能會使操縱視頻變得更加容易。 Lyrebird的聯合創始人Alexandre de Brébisson說：「在某種程度上，利用神經網路生成視頻將是可能的。但是，這樣的任務更具挑戰性，因為在高維空間里表示視頻具有更高的不確定性，當前的模型仍然不夠完美。」

考慮到這些技術正在蓬勃發展，因此能夠檢測虛假的視頻和音頻的技術將會變得越來越重要。

德國弗里德里希-亞歷山大大學的博士生Justus Thies（他也是Face2Face的研究人員）說，他已經開始了一個用於檢測被操縱的視頻的項目，其結果看起來很有前途。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！