你接到的老闆電話可能並不是真的，而是 AI 的新詐騙

後來 B 站也掀起了一陣「萬物皆可徐錦江」的熱潮，比如雷神和海王，乃至很多的經典電影的片段都出現了徐錦江的臉，甚至其中還包括《新白娘子傳奇》里的白素貞。

這一次花式操作確實秀，也讓更多人了解了什麼是 Deepfakes 和 AI 換臉。

現在，「Deepfakes」已經泛指那些被人工智慧改變過的媒體內容，只要是某人沒有做過的事被 AI 做出來都可以認為是 Deepfakes，而且不止是視頻，音頻同樣也可以通過 AI 來偽造。

但現在 Deepfakes 正在從過去的色情範圍進一步擴大到了犯罪的世界，現在有一些犯罪分子使用 Deepfakes 來冒充公司的高管進行詐騙，目前他們使用的是 Deepfakes 的音頻而非視頻來進行詐騙。

相關的技術其實早已經有所應用，比如網路上那些偽造的 Trump 講話，這一段喬丹·皮爾「配音」的奧巴馬演講也堪稱經典案例

而這種詐騙，要比「小 X，明天來我辦公室一趟」可要厲害不知多少倍，用被忽悠瘸的范偉老師的話說就是「哎呀，防不勝防！」

作為一家網路安全公司，賽門鐵克表示已經發生了至少三起對私營企業成功的音頻詐騙，都是將自己偽裝成 CEO 的聲音要求財務進行緊急匯款。

當然，犯罪分子也為此做了很多訓練，用人工智慧偽裝聲音不必多說，他們還通過電話、Youtube 視頻和 TED 演講視頻來模仿該公司 CEO 說話習慣，在進行數小時的演練和計劃之後才會實施。

顯然，Deepfakes 對企業的威脅是切實存在的，尤其是在已經有三起成功案例之後。但目前這樣的運用方法仍然只是「小兒科」的簡單手法，真正令人膽寒的是這樣技術能用於更大的破壞。比如你想要拉低蘋果公司的股價怎麼辦，只要一份刻意偽造的音頻剪輯，並放出一些類似庫克私人談話等不利信息，蘋果的股價恐怕很容易就能蒸發數十億美元。

然而目前並沒有非常好的方式去監測這些造假音頻，因為技術的越發成熟，這些 Deepfakes 的音視頻製作正在變得越來越容易，同時破綻也越來越少。但絕大多數企業都對此沒有準備。

更糟糕的是，從行業上說，對於 AI 造假的媒體來說，目前來看尚沒有高效的檢測和抵禦解決方案。

技術方面，賽門鐵克表示他們正在開發檢測音頻造假的技術。購買第三方公司服務的話也同樣不便宜，New Knowledge 是一家幫助公司抵禦虛假信息的公司，但它們的服務費用可能從 5 萬到數百萬美元不等。

而最讓人頭疼的是，當這些 AI 造假的音視頻被揭穿時，通常損失已經造成了。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！