90國科學家簽署特殊協議，公然與政府唱反調：絕不配合你們干這事

近日，在2018年國際人工智慧聯合會議（IJCAL）上，美國太空探索技術公司（SpaceX）的CEO埃隆·馬斯克搞了個大新聞：他聯合了2400名來自世界各地頂尖科學家共同簽名宣誓。

這2400人中，包括Skype的創始人楊·塔林、DeepMind創始人哈薩比斯·穆斯塔法、享譽世界的人工智慧科學家本吉奧和斯圖爾特·拉塞爾以及來自麻省理工學院、哈佛、劍橋以及世界各大知名企業和研究院所的頂尖工程師，其陣容不可謂不豪華。

那麼，到底是什麼可以讓他們達成如此高度的共識呢？

特斯拉汽車的創始人埃隆·馬斯克

答案是：抵制人工智慧武器化。

眾所周知，人工智慧這個概念自從上個世紀被提出以來，一直都是科技領域的熱點話題。2016年3月，谷歌公司研發的人工智慧AlphaGo在圍棋人機大戰中擊敗李世石，人工智慧也被推到了輿論的風口浪尖：幾個月的深度學習就能擊潰人類圍棋界上千年的傳承，人工智慧真的比人類強這麼多嗎？

在輿論的熱議下，許多人都開始擔憂人工智慧的出現或將對人類的地位產生威脅。但事實上，早在幾十年前，就有人對人工智慧的危險性產生過深度思考，典型的產物就是大名鼎鼎的《終結者》系列電影。

在電影中，人工智慧「天網」系統控制著全球的軍事武器，但卻妄圖毀滅人類，人類和機器人的世界大戰就此拉開了帷幕。顯然，這部電影幕後的主創團隊對人工智慧的武器化充滿了擔憂。

究其原因，不外乎有兩點：首先是人工智慧太「聰明」了，其次是人工智慧並不「聰明」。

這兩點原因看似矛盾，實則不然。說它太「聰明」了，是因為人工智慧往往擁有遠超人類的運算能力和邏輯思維能力，對戰爭武器的操縱可以達到出神入化的地步，就像在「吃雞」遊戲里開掛一樣，所以人類軍隊很難和機器人軍隊抗衡。試想，如果你的對手在你開槍前就能判斷你子彈的落點，這仗還怎麼打？

說它並不「聰明」，是因為人工智慧再先進，也始終不過是一段計算機程序。既然是程序，就必須遵循預設的邏輯運行，這就導致人工智慧在戰爭中必將表現地極端冷血而殘酷。

也許對己方來說，有這麼一位冷血的戰將也算是一件好事，最起碼提升了戰爭的效率。可一旦出現什麼意外，導致友方單位或者平民被人工智慧判斷為敵人，也將立即遭到毀滅，因為人工智慧並不會用情感去輔助邏輯判斷。

更何況，人工智慧對戰場上軍隊的操控必然只能通過網路來進行，這就存在被敵方黑客入侵的風險。前一秒最親密的戰友在下一個瞬間就會倒戈相向，這是令人想想就不寒而慄的場景。另外，如果人工智慧武器系統落入恐怖分子手裡，也必將對人類文明產生巨大的威脅。

因為這樣的種種原因，隨著人工智慧的不斷發展，國際上反人工智慧武器化的運動也一浪高過一浪。前有著名物理學家霍金在2015年發起反對武器化人工智慧運動，後有馬斯克組織的千人簽名宣誓，絕不配合軍方將人工智慧武器化。看來，這些地球上最聰明的大腦們已經達成了一致。

其實，人工智慧可以被看作一把雙刃劍，如果我們可以有效地運用它為人類工作，就能造福全球人民的生活；而如果有人心懷不軌，企圖通過武器化人工智慧進行戰爭，則必將打開一個恐怖的潘多拉魔盒。所幸，目前的人工智慧學界已經達成了共識，但各國真的能理性地看待人工智慧這一潛力巨大的戰爭武器嗎？

也許，只有歷史能給我們答案。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！