研究人員呼籲各國關注AI被濫用的風險 威脅已迫在眉睫

騰訊科技訊 據外媒報道，劍橋、牛津和耶魯大學的25名技術和公共政策研究人員以及隱私和軍事專家周三發表了一份最新的研究報告，他們在報告中警告說，人工智慧的快速發展引發了日益增長的風險，惡意用戶很快就能利用人工智慧技術來發動自動黑客攻擊，這些攻擊可能會造成非常嚴重的後果，比如無人駕駛汽車相撞或者將商用無人機變成有針對性的武器。

研究人員和專家們稱，人工智慧技術有可能被流氓國家、犯罪團伙或獨來獨往的犯罪分子們濫用，這已經從數字、物理和政治層面上對人類社會構成了迫在眉睫的威脅，因為人工智慧技術讓大規模、高精準和高效率的攻擊成為了可能。

牛津大學人類未來學院的研究員邁爾斯-布倫達奇（Miles Brundage）稱：「我們都承認，人工智慧有很多積極的應用，但在惡意使用問題的研究上存在一片空白。」

人工智慧即AI包括利用計算機執行一些通常需要人類智能才能完成的任務，比如決策或識別文本、語音或視覺圖像等等。

人們普遍認為人工智慧是開啟各種技術可能性的強大力量，但它也成為了尖銳辯論的焦點，人們擔心它所支持的大規模自動化會導致廣泛失業和其他社會混亂。

研究人員和專家們在這份長達98頁的報告中警告說，用人工智慧來完成可能需要人工勞動和專業技能才能完成的任務，這可能會降低攻擊的成本和催生新的攻擊方式。這些新的攻擊方式可能是人力無法單獨完成或者需要用到人工智慧系統自身弱點才能實現的。

報告審查了越來越多關於人工智慧安全風險的學術研究成果，呼籲各國政府和政策與技術專家合作並化解這些危險。

研究人員們詳細說明了人工智慧技術的強大力量，人工智慧技術可以將圖像、文字和音頻合成在一起以模仿他人在線行為，進而改變公眾的觀點。研究人員們指出，專制政權可能會利用這種技術。

這份報告提出了一系列建議，包括將人工智慧作為一種軍民兩用的技術來管理。

它還提出了一些問題，包括學術界和其他人是否應該控制他們發布或披露人工智慧研發進展，直到該領域的其他專家有機會對潛在危險進行研究並作出反應。

布倫達奇說：「我們最終得出的問題比解決的問題多得多。」

這篇論文最早源於2017年初的一個研討會，當作者們正式開始撰寫時，報告中提出的某些預測基本上已經實現了。作者們推測，人工智慧可能會被用來製作各種逼真的假聲音和假視頻，模仿各行各業的名人，以達到宣傳的目的。

去年晚些時候，所謂的「深度假」色情視頻開始在網上出現，這類視頻實際上是將明星們的面孔融合到不同的身體上。

特斯拉首席執行官埃隆-馬斯克（Elon Musk）和矽谷投資者山姆-奧爾特曼（Sam Altman）創立的人工智慧公司OpenAI的政策主管傑克-克拉克（Jack Clark）表示：「這發生的色情行業，並不是處於宣傳目的。但是一切都表明，關於深度假的東西也有可能被用於宣傳。」（編譯/林靖東）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！