馬斯克領銜全球百名AI專家致信聯合國《特定常規武器公約》會議

近年來，隨著人工智慧概念的走紅，相關的應用構想也呈井噴之勢伴隨而來，其中最重要也是最會被公眾所忽視的一個領域就是軍事。目前，世界上的主要軍事強國都在投入巨大的精力到智能自動化武器之中，各類無人車、無人機和無人船等新式裝備層出不窮。

圖丨美軍「收割者」無人機

而與此同時，這種軍事技術的升級彷彿並沒有使人們感受到一絲安全的氣息，更多的人反而是對於「大規模戰爭」、「機器人失控」等可能發生的事件憂心忡忡。

今天，在澳大利亞墨爾本舉辦的 2017 年國際人工智慧聯合會議的開幕致辭上，以伊隆·馬斯克（Elon Musk）與 DeepMind 聯合創始人 Mustafa Suleyman 所牽頭的來自 26 個國家的 116 名專家正式向聯合國發表公開信，呼籲採取相關的措施來制止圍繞「智能武器」而展開的軍備競賽。可能的話，還應該將這類武器納入聯合國的特定常規武器公約（CCW）的武器禁用名單。

圖丨伊隆·馬斯克

新南威爾士大學的人工智慧教授 Toby Walsh 就說到：「所有技術都有兩面性，AI 也不例外。它能幫助我們解決諸如貧困、氣候變化、金融危機等許多當前面臨的社會問題。但同樣的技術用到武器上，也會讓戰爭機器變得更加血腥。我們需要在當下做出決定，到底要利用人工智慧來做什麼？」

圖丨新南威爾士大學的人工智慧教授 Toby Walsh

正因如此，專家們在公開信中言辭激烈，甚至發出了嚴正的警告，認為當下發生在軍事領域中的技術浪潮將是繼火藥和核武器之後「人類戰爭形式的第三次革命」。在這樣的時代，一旦發生戰爭，其結果將是毀滅性的。不僅戰爭的規模將會是空前的，就連戰爭推進的速度都將快的超乎人類的想像。

更有甚者，萬一這類武器落入到恐怖分子或黑客的手中，那無疑將是對整個人類文明的巨大威脅。難怪有人驚呼：「留給我們的時間不多了，只要這個恐怖的潘多拉魔盒一打開，想再關上就難上加難了。」

而從現實的角度來看，這種擔心絕非是杞人憂天。戰爭機器人的概念已不僅僅停留在科幻電影中了，實際的發展比人們預想來得要快。當下，已經有大量的智能武器被發明出來並投入使用了。例如韓國三星公司的研發十年之久的 SGR-A1 機器人哨兵就擁有自主射擊的能力，造價約 20 萬美元，很有可能會部署在朝韓邊境。

圖丨SGR-A1 機器人哨兵

根據了解，這型自動武器系統的功能十分強大，不僅可以通過內置的攝像頭、熱量感測器和運動感測器來執行監視、聲音識別等任務。甚至還可以對目標進行自動射擊和發射榴彈攻擊，其原型設備也可以適配在海陸空三軍的武器平台上。但令人感到恐怖的是，SGR-A1 目前尚不能區分敵我的身份，輕易投入戰場將會帶來難以預估的災難。

圖丨SGR-A1 並不能很好地區分敵我

陸地作戰力量的發展遠不止於此，俄羅斯、美國和其他國家正在開發具有自主操作系統的坦克車輛，最具代表性的就是俄羅斯的天王星-9（Uran-9）多功能無人戰車。還有越來越多的傳統坦克戰車將載入自主操作系統。

圖丨俄羅斯的 Uran-9 多功能無人戰車

與此同時，軍用無人機的發展在最近幾年也達到了一個高潮，例如英國 BAE 公司所研發的雷神無人機（Taranis drone）就可以搭載空空導彈和空地導彈進行自主飛行。其飛翼式的氣動布局設計十分符合隱身的需要，常規的雷達將很難監測的到，預計會在 2030 年前後成為英國皇家空軍的重要組成部分。

圖丨雷神無人機

在海軍方面，美軍於 2016 年推出的無人戰艦「海上獵手」號（Sea Hunter）最具代表性。它不僅能夠在無人操控的情況下連續航行兩三個月，最高時速可以達到 27 節，而且它還具有極強的反潛能力。此外，波音公司研發的無人水下航行器 Echo Voyager 也被會被美軍用于軍事用途。

圖丨「海上獵手」號無人戰艦

這一切都印證了眾多人工智慧專家此前的警告，即隨著 AI 技術的快速發展，那種完全自動化的智能武器將在幾年之內就成為部隊的標配。也許有人會說，讓機器人來代替人作戰，不是會大大降低士兵的傷亡嗎？但結果可能恰恰相反，人工智慧技術的成熟以及智能作戰機器人的普及意味著戰爭的門檻將被大大降低，任何人都可以操縱一支部隊來挑起一場戰爭，由此帶來的人類的傷亡恐怕只會越來越多。

實際上，這已經不是第一次有人公開呼籲要禁止智能武器的發展，早在兩年前，以馬斯克和霍金為代表的上千名人工智慧及機器人行業的專家就提出了類似的公開信，而這在當時也引起了聯合國的重視，推動了對禁止智能武器等相關問題的討論。

時至今日，圍繞人工智慧的爭論一直沒有休止，以馬斯克和扎克伯格為代表的兩方人士對 AI 的發展紛紛提出了自己的觀點和看法。雖然其中的是非對錯我們目前還無法做出準確的判斷，但可以肯定的是，無論是什麼技術，只要是為戰爭服務的，就必將成為人類為文明毀滅「自掘的墳墓」。

附：

致聯合國《特定常規武器公約》會議的公開信

由於眾多公司開發的人工智慧和機器人技術可能被用於開發自動武器，因此我們有責任發出警告。我們非常歡迎聯合國《特定常規武器公約》（CCW）會議關於建立「致命自動武器系統監管專家組」（GGE）的決定。我們中許多研究者和工程師都殷切希望能對你們的審議提出技術方面的建議。

我們推薦來自印度的 Amandeep Singh Gil 大使做為 GGE 專家組的主席。我們也懇請 GGE 的各個締約方能努力某種方式來制止在致命自動武器領域的軍備競賽，來保護平民不會收到這類武器濫用所造成的傷害，以及避免這類技術對世界帶來的不穩定因素。

令我們深感遺憾的是，原定於今天（2017年8月21日）召開的 GGE 第一次會議，因小部分成員國沒有如期繳納聯合國會費而未能如期舉行。我們也再次敦促各締約方能在推遲到 11 月召開的 GGE 第一次會議上加倍努力，來達成既定目標。

致命自動武器有演變為第三次武器革命的潛在威脅，一旦研發成功，將來的武裝衝突可能達到前所未有的規模，而且其發展速度將遠超人類預期。這將是一種恐怖的武器，一種暴政和恐怖分子將用來殘害無辜民眾的武器，一種可能被黑客挾持並用於非法目的的武器。留給我們的時間已經不多了，一旦潘多拉的盒子被打開，將很難被關上。因此，我們懇請締約方能找到有效途徑，保護全人類免受致命自動武器的威脅。

以下是公開信簽署者名單（按國別首字母排序）：

澳大利亞

Tiberio Caetano， Ambiata 創始人兼首席科學家；

Mark Chatterton、Leo Gui，Ingenious AI 創始人；

Charles Gretton，Hivery 創始人；

Brad Lorge，Premonition.io 創始人兼 CEO；

Brenton O』Brien，Microbric 創始人兼任 CEO；

Samir Sinha，Robonomics AI 創始人兼 CEO；

Ivan Storr，Blue Ocean Robotics 創始人兼 CEO；

加拿大

Peter Turner，Tribotix 創始人；

Yoshua Bengio，Element AI & 蒙特利爾學習演算法實驗室創始人；

Ryan Gariepy，Clearpath Robotics 創始人兼 CTO，OTTO 汽車創始人兼 CTO；

中國

周劍，優必選科技創始人；

李磊，Sankobot 創始人兼 CEO；

捷克共和國

Marek Rosa，GoodAI 創始人兼 CEO；

丹麥

S?ren Tranberg Hansen，Brainbotics 創始人兼 CEO；

Esben ?stergaard，Universal Robotics 創始人兼 CEO；

愛沙尼亞

Markus J?rve，Krakul 創始人兼 CEO；

芬蘭

Harri Valpola，ZenRobotics 創始人兼 CTO，Curious AI Company 創始人兼 CEO；

法國

Raul Bravo，DIBOTICS 創始人兼 CEO；

Raphael Cherrier，Qucit 創始人兼 CEO；

Jerome Monceaux，Spoon.ai 創始人兼 CEO，Aldebaran Robotics 創始人兼 CCO；

Charles Ollion，Heuritech 創始人兼研發總監；

Anis Sahbani，Enova Robotics 創始人兼 CEO；

Alexandre Vallette，SNIPS & Ants 開放創新實驗室創始人；

德國

Marcus Frei，NEXT.robotics 創始人兼 CEO；

冰島

Kirstinn Thorisson，冰島機器智能研究所創始人；

印度

Fahad Azad，Robosoft Systems 創始人；

Debashis Das、Ashish Tupate、Jerwin Prabu，Bharati Robotics 創始人；

Pulkit Gaur，Gridbots Technologies 創始人兼 CTO；

Pranay Kishore，Phi Robotics Research 創始人兼 CEO；

Shahid Memom，Vanora Robots 創始人兼 CTO；

Krishnan Nambiar、Shahid Memon, Vanora Robotics 創始人

Achu Wilson，Sastra Robotics 創始人兼 CTO；

愛爾蘭

Neill Gernon，Atrovate & Dublin.AI 創始人；

Parsa Ghaffari，Aylien 創始人兼 CEO；

Alan Holland，Keelvar Systems 創始人兼 CEO；

Alessandro Prest，LogoGrab 創始人兼 CTO；

義大利

Alessio Bonfietti，MindIT 創始人兼 CEO；

Angelo Sudano，ICan Robotics 創始人兼 CTO；

日本

Shigeo Hirose、Michele Guarnieri、Paulo Debenest、Nah Kitano，HiBot Corporation 創始人；

墨西哥

Luis Samahí García González，QOLbotics 創始人兼 CEO；

荷蘭

Koen Hindriks、Joachim de Greeff，Interactive Robotics 創始人；

Maja Rudinac，Robot Care Systems 創始人兼 CEO；

Jaap van Leeuwen，Blue Ocean Robotics Benelux 創始人兼 CEO；

挪威

Dyrkoren Erik、Martin Ludvigsen、Christine Spiten，BlueEye Robotics 創始人；

波蘭

Sergii Kornieiev，BaltRobotics 創始人兼 CEO；

俄羅斯

Igor Kuznetsov，NaviRobot 創始人兼 CEO；

Aleksey Yuzhakov、Oleg Kivokurtsev，Promobot 創始人；

新加坡

Junyang Woon，Infinium Robotics 創始人兼 CEO，前海軍作戰部某部門主管；

南非

Jasper Horrell，DeepData 創始人；

西班牙

Toni Ferrate，RO-BOTICS 創始人兼 CEO；

José Manuel del Río，Aisoy Robotics 創始人兼 CEO；

Victor Martin，Macco Robotics 創始人兼 CEO；

瑞士

Timothy Llewellynn，nViso 創始人兼 CEO；

Francesco Mondada，K-Team 創始人；

Jurgen Schmidhuber、Faustino Gomez、Jan Koutník、Jonathan Masci、Bas Steunebrink，Nnaisense 創始人；

阿聯酋

Satish Ramachandran，AROBOT 創始人；

英國

Silas Adekunle，Reach Robotics 創始人兼 CEO；

Steve Allpress，FiveAI 創始人兼 CTO；

Joel Gibbard、Samantha Payne，Open Bionics 創始人；

Richard Greenhill、Rich Walker，Shadow Robot Company 創始人；

Nic Greenway，React AI Ltd (Aiseedo)創始人；

Daniel Hulme，Satalia 創始人兼 CEO；

Charlie Muirhead、Tabitha Goldstaub，CognitionX 創始人；

Geoff Pegman，R U Robots 創始人；

Mustafa Suleyman，DeepMind 創始人兼應用 AI 總監；

Donald Szeto、Thomas Stone、Kenneth Chan，PredictionIO 創始人；

美國

Antoine Biondeau，Sentient Technologies 創始人兼 CEO；

Brian Gerkey，Open Source Robotics 創始人兼 CEO；

Ryan Hickman、Soohyun Bae，TickTock.AI 創始人；

Henry Hu，Cafe X Technologies 創始人兼 CEO；

Alfonso í?iguez，Swarm Technology 創始人兼 CEO；

Gary Marcus，Geometric Intelligence（已被Uber收購）創始人兼 CEO；

Brian Mingus，Latently 創始人兼 CTO；

Mohammad Musa，Deepen AI 創始人兼 CEO；

Elon Musk，SpaceX 創始人、CEO、CTO；特斯拉汽車聯合創始人兼 CEO；

Rosanna Myers、Dan Corkum，Carbon Robotics 創始人；

Erik Nieves，PlusOne Robotics 創始人兼 CEO；

Steve Omohundro，Possibility Research 創始人兼 CEO；

Jeff Orkin，Giant Otter Technologies 創始人兼 CEO；

Dan Reuter，Electric Movement 創始人兼 CEO；

Alberto Rizzoli、Simon Edwardsson，AIPoly 創始人；

Dan Rubins，Legal Robot 創始人兼 CEO；

Stuart Russell，Bayesian Logic Inc.創始人兼副總裁；

Andrew Schroeder，WeRobotics 創始人；

Gabe Sibley、Alex Flint，Zippy.ai 創始人；

Martin Spencer，GeckoSystems 創始人兼 CEO；

Peter Stone、Mark Ring、Satinder Singh，Cogitai 創始人；

Michael Stuart，Lucid Holdings 創始人兼 CEO；

Massimiliano Versace，Neurala Inc.創始人兼 CEO。

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！