DeepMind和馬斯克等機構個人承諾抵制AI自主武器

埃隆-馬斯克

騰訊科技訊 7月18日據國外媒體報道，在本次人工智慧聯合會議上，Future of Life Institute組織宣布有超過2400名個人專家與160家組織共同簽署了一項承諾協議，未來既不參與也不支持開發、製造、交易或使用致命的自主武器。同時超過90個國家的代表也呼籲各國政府通過法律手段禁止這類武器的出現。包括谷歌旗下的DeepMind和Xprize基金會，以及埃隆-馬斯克（Elon Musk）、DeepMind聯合創始人德米斯-哈薩比斯（Demis Hassabis）、肖恩-萊格（Shane Legg）以及穆斯塔法-薩勒曼（Mustafa Suleyman）也都做出了承諾。

在這一承諾簽署之前，已經有少數幾家公司不顧同行和外界的反對，向政府機構和執法部門提供相關的技術。谷歌之前因競標五角大樓合同向軍方提供人工技術而受到抨擊，該技術可以幫助軍方無人機標記圖像而無需通過人工審查。另外，亞馬遜也因與執法機構共享面部識別技術備受質疑，微軟則因為向移民和海關執法部門（ICE）提供技術支持同樣被推上了風口浪尖。

「大量人工智慧研究人員都認為，為武器增加人工智慧技術，會帶來更大的風險和致命性。這會發展成暴力和壓迫的強大工具，特別是與監視和數據系統有關的應用。」該份聲明表示。所有簽署協議的個人或公司都認為「不應該將人類的生命交給機器」。

「很高興看到人工智慧領域的領導者們已經從表態轉向實際行動，自覺簽署了這項政府尚未進行商討的政策。」Future of Life Institute主席馬克斯-特格馬克（Max Tegmark）表示。「人工智慧擁有巨大的潛力來幫助整個世界，但我們需要預防這項技術被濫用。能夠自動決定殺人方式的人工智慧武器與生化武器一樣令人厭惡和危險，應該予以同樣的方式進行抵制。」

谷歌已經發布了自己的一套原則，目的就是規範公司人工智慧技術方面的發展。谷歌的政策規定，不能將人工智慧技術部署到武器、監視等技術中，否則就違反了國際法和人權原則。另外微軟也表示，與ICE的合作僅限於電子郵件、日曆、消息和文檔管理，不包括任何面部識別技術，並且微軟也在自家的面部識別技術方面制定了指導原則。

2015年，馬斯克曾向Future of Life Institute捐贈了1000萬美元，用於一項確保人工智慧對人類有益的技術研發。去年，馬斯克、哈薩比斯和蘇萊曼聯合Future of Life Institute向聯合國發送了一封公開信，要求對AI自主武器進行監管。（編譯/音希）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！