假新聞遇上AI，禍兮福兮？| 矽谷洞察

更多精彩，敬請關注矽谷洞察官方網站（http://www.svinsight.com）

近日，一則「機器人受盡欺壓奮起反抗」的視頻刷上了各大平台的排行榜。視頻中，為了測試機器人的平衡性，測試人員用腳踹、凳子砸等方式對機器人進行百般折磨。

不堪其辱之下，機器人向人類展開了反抗。靈活的機械身體很快擊敗了人類的血肉之軀，測試人員開槍亦無濟於事。在 Twitter、微博、朋友圈，評論紛紛湧現：「人類要完啦！！！」

當然，這是則謠言。

特效公司 Corridor 旋即對這一消息進行闢謠，並順帶打出了絕妙的廣告：看看我們的特效技術有多好！

留下的，是社交網路之上，或驚慌失措，或信誓旦旦的，分享與轉發的一地雞毛。

假新聞，在這個信息泛濫的時代絕不會讓你感到陌生。爆料、反轉、再反轉，我們幾乎已經習慣了與謠言共生，對社交網路的所有信息打上個問號。

據 MIT 科研人員的研究，假新聞的散布速度、深度、廣度均遠遠高於事實真相。造謠張張嘴、闢謠跑斷腿，這句話一點不假。這種現象其實很容易理解：「機器人反抗人類」理所當然地比「目標檢測技術又提升了零點幾個百分點」來的抓人眼球，假新聞的病毒式傳播因而顯得順理成章。

然而，面對假新聞，我們真的束手無策嗎？

「信息癌症」特效藥，AI 從何下手

為了打擊謠言，人們不是沒想過別的辦法，但目前看來，人工審核、干預、用戶舉報... 這些依靠人力的手段在前所未有的海量信息面前，都顯得杯水車薪。

看來，藉助人工智慧技術來鑒定、識別假新聞，幾乎成了我們唯一的希望。

Twitter收購Fabula AI

六月三日，Twitter宣布收購初創企業Fabula AI，意圖藉助其獨到的「圖深度學習」AI技術，為Twitter構建更可靠的假新聞過濾系統。

圖深度學習技術是什麼？人工智慧又怎麼能識別假新聞呢？讓我們一一釐清。

AI到底要怎麼識別假新聞呢？究其根本，還是依靠假新聞不同於真實事件的各項特徵。

首當其衝的，便是信息來源的可靠度。

我們知道，在大多數情況下，路透社的新聞要比路邊社的消息來的可靠。AI自然不會放過這一特點。對於社交網路上的消息，AI更會結合多重信息，對信息來源的可靠度進行深入判定。

當你看到的消息來源是洋蔥新聞時，你大概不會相信它（美國洋蔥新聞）

對Twitter而言，發帖人的位置信息、IP地址，賬號的註冊、活躍時間，帖子點贊、轉發與回復的比例，都可成為人工智慧判定的依據。比如，你在新鄉發了則「紐約時代廣場今天發生暴動」，這事情的真實性就不免存疑。再比如，一個日常和其他人在評論區聊得火熱的賬號，自然就比每天「轉發微博」的三無營銷號來的可靠。

其次，消息之間的交叉驗證也是重要考量。

以自然災害信息為例，如果有很多人都在事發地附近發布了災害相關的信息，這一消息的可靠度便大大提升，假新聞的概率隨之下降。相反的是，如果搜遍全網發現只有某個自媒體小號發布了洪水報告，這消息的真實率便大打折扣。

用戶的反饋也是交叉驗證的一部分。假如可信度較高的賬號們（如經過認證的領域專家們）紛紛對某一消息進行反駁、闢謠，這消息的謠言成分便顯得毋庸置疑起來。

第三，假消息內在的結構特徵，也是識別演算法的重要武器。

以文字信息為例，如今的自然語言處理演算法可以提取出寫作的結構、特點，加以分類。「標題黨」、「鼓動式描述」、「只談觀點不列數據」等等均是假新聞自露馬腳的常見特徵。

藉助社交網路平台上的海量數據，演算法更能學習到我們自身難以認知的隱含結構，對假新聞進行更好的識別。

圖片信息亦然。美國時間6月15號，PS軟體的開發公司—— Adobe 公布了對付自家軟體的獨門秘籍，藉助人工智慧技術，他們識別圖片中修過的部分，對「俊男靚女」們賴以為生的瘦臉演算法進行還原。假臉無從遁形，謠言里的合成圖像就更不例外，成為AI識別假新聞的重要根據。

Adobe人工智慧檢測修圖區域

https://gadgets.ndtv.com/apps/news/adobe-unveils-ai-tool-that-can-detect-photoshopped-faces-2053870

講了這麼多，要準確地識別假新聞，演算法可提取、結合的信息源實在太多。對於單個用戶的各項信息，傳統機器學習演算法相對有效，對於自然語言和圖像信息，近年來得以大發展的神經網路模型能對其進行全面、高效的理解。

然而，面對社交平台上縱橫交錯的傳播網路，面對這麼多種紛繁複雜的數據源，我們到底怎麼才能將他們結合起來，實現對假新聞的準確判定呢？

信息打假：矛與盾的較量

圖深度學習演算法，可能是如今最接近正確答案的選項，這也是 Twitter 選擇收購 Fabula AI 的根本原因。

社交平台天然具有網路屬性。利用這一屬性，我們可以以用戶、推文為節點，構建起龐雜繁複的網路圖模型。在這基礎之上，圖深度學習演算法便能有效融合傳統演算法所力不能及的海量信息，將用戶特徵、用戶之間的交流、消息本身的傳播等等一一考慮在內，實現對假新聞的準確識別。

真假新聞特徵可視化，紅色為經常發布假新聞的用戶，藍色為幾乎不發布假新聞的用戶

https://techcrunch.com/2019/02/06/fabula-ai-is-using-social-spread-to-spot-fake-news/

據 Fabula 的數據，依靠圖深度學習模型，他們能夠在信息擴散的前幾個小時之內實現 93% 的準確識別，為假新聞識別立起一棟標杆。被 Twitter 收購以後，藉助 Twitter 的數據，這一準確率有望繼續提升，成為 Twitter 打擊假新聞的重要手段。

然而，「以子之矛，攻子之盾」，AI 在辨別假新聞的同時，也成為了假新聞的製造者。

就在上個月，人工智慧領域大名鼎鼎的 OpenAI 便放出了他們的 AI 假新聞製造器，讓大家試用、體驗。

在這個名為 「Talk to Transformer」 （譯為 「對Transformer說話」，Transformer 是自然語言處理領域的重要演算法）的網站里，你可以隨便輸入幾個單詞，OpenAI 的人工智慧演算法便能為你編出一篇完整的「假新聞」。筆者試用了一下，輸出的文章居然還真是有模有樣，乍看之下，可信度極高。

試用「Talk to Transformer」

https://talktotransformer.com

文字之外，圖像和視頻更是重災區。大名鼎鼎的 DeepFake 演算法就是其中的代表：藉助對抗神經網路演算法，人工智慧可以將一個人的表情、動作無縫對換到另一個人身上，在視頻里高談闊論的政治家可能就是你隔壁的書獃子男孩，直播間的網紅女主播則可能是虎背熊腰的摳腳大漢，「眼見為實」成為歷史，藉助假人物的虛假背書，假新聞、假消息的擴散來的更為嚴重。

Deep Fake，將左上角表演者的表情動作替換到左下角人物身上

https://www.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/

AI 造假，精細程度上一再突破，規模上更是傳統人力捏造所不能媲美，面對這一挑戰，我們又該如何應對呢？

首先，技術倫理十足重要。面對假新聞的潛在威脅，OpenAI 決定不如以往一般對外公布訓練好的人工智慧模型，讓大規模、自動化製造 AI 假新聞的門檻大大提高。DeepFake 也在輿論的壓力下從 Github 刪除，讓造假者更難通過簡單地調用實現視頻換臉，讓 AI 假消息的規模得以控制。

其次，「以子之矛，攻子之盾」之下，「盾」的質量便顯得更為重要。只有更好地利用 AI，讓它更好地鑒別、篩選假新聞，我們才能 「道高一尺、魔高一丈」，取得最終的勝利。

AI 假新聞其實也未必全是壞事，自動化的假新聞製造也為假新聞的識別演算法提供了幾近無限的訓練集。利用類似於對抗神經網路演算法 —— 一個模型造假，一個模型辨假的思路，識別演算法也能得到更好的提升，讓我們能更好地識別包括 AI 造假在內的各項假新聞消息。

對於假新聞的 AI 識別，中國並不落後。在查訪各方文獻時，中國科研人員的身影隨處可見。今年愚人節當天，阿里便發布了自研的 「AI謠言粉碎機」，可以幫助諸多社交媒體平台減輕人工審核的沉重負擔。

阿里發布AI謠言粉碎機

http://www.sohu.com/a/305172138_115479

演算法研發之外，中國更有望藉助數據、人工審核標註等多方面的獨到優勢，在人工智慧識別假新聞的這一特定戰場上，實現超越，讓微博、微信、各方媒體更為可靠，讓「反轉再反轉」的劇情少點上演。

而我們現在能做的，就是下次在轉發 「震驚！99% 的中國人都不知道...」 這種文章之前，先去網上驗證下信息是否真實。

更多精彩，敬請關注矽谷洞察官方網站（http://www.svinsight.com）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！