美國防部研發識別虛假圖像及視頻的取證工具

近日，由美國防部負責的一個項目成功研發出一種取證工具，可用於甄別人工智慧製造的虛假新聞及視頻。

1

偽造視頻技術

目前，人工智慧技術發展日新月異，迫使取證專家尋找檢測機器學習人類偽造視頻的方法。製造假視頻最常見的手段，就是通過機器學習，將人臉「移花接木」。這種「深度偽造品」如果由視頻編輯人員進行加工，便可以假亂真。

這種視頻技術最近有了升級，兩種被稱為「生成對抗性網路」（GAN）的神經網路，可聯合製作出更為逼真的假視頻。DARPA負責「媒體取證」項目的馬修·塔瑞克表示，在GAN操縱的圖像和視頻中發現了微妙的變化。

GAN網路由兩部分組成。第一個為「生成模型」，學習數據集中的統計模式，比如一組圖像或視頻，然後生成相似度超高的合成數據。第二種稱為「識別模型」，可識別造假內容。由於GAN網路的設計已經超越了人工智慧系統，因此尚不清楚是否有自動系統能夠捕捉到它們。

2

取證工具研究

這一檢測「深度偽造品」的工具由美國國防高級研究計劃局（DARPA）負責研發，名為「媒體取證」。研究的初衷是使既有的取證工具自動化，但最近研究人員將研究方向轉移到了AI偽造的取證上。

紐約州立大學的呂思偉在研究幾個「深度偽造」視頻時發現，假視頻中的人幾乎很少眨眼，即使眨眼，眼球運動也是不自然的。這是因為深度仿冒者接受的是靜態圖像訓練，而靜態圖像往往顯示的是睜著眼睛的人。

參與DARPA該項目的其他人目前正致力於檢測「深度偽造」視頻難以模仿的臉部生理信號，並且探索自動捕捉假視頻的類似技巧，例如檢查數字文件，尋找兩個圖像或視頻被拼接的跡象；獲取奇怪的頭部動作、奇怪的眼睛顏色；觀察圖像的亮度及其他物理特性，尋找內容偽造跡象等等。

3

取證技術的未來

塔瑞克表示，DARPA將舉辦更多的科技競賽項目，以確保研發中的科技能夠檢測到最新的造假技術。取證工具的出現象徵著偽造視頻和數字偵探之間的人工智慧武器競賽。專家表示，機器學習系統經過人類開發，有超越取證工具的可能。

來源：美國Technology Review網站/圖片來自互聯網

軍事科學院軍事科學信息研究中心張彩

如需轉載請註明出處：「國防科技要聞」（ID：CDSTIC）

覺得不錯，請點贊

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！