一件血案，推演三版「劇情」

知識 07-28

[導讀]

這件血案發生在20天前，美國達拉斯警方出動MARCbot型號機器人，通過攝像頭靠近的方式，在嫌疑人附近引爆炸彈，炸死槍殺警察的嫌犯。

如果AI拿起槍

一件血案，推演三版「劇情」

文·本報記者張佳星

這件血案發生在20天前，美國達拉斯警方出動MARCbot型號機器人，通過攝像頭靠近的方式，在嫌疑人附近引爆炸彈，炸死槍殺警察的嫌犯。

有人認為這是對機器人的濫用，有人更深層地考慮到人類可能被機器人毀滅的未來——

「當被命令時，機器人能毫不猶豫地殺人」，它們會不會被發展成嗜血的殺人工具？

「有了自主意識的機器人，不被命令時，會不會心起殺機？」當人工智慧變得不受控，整個人類會不會被取而代之？

面對越走越近的「人工智慧」，如何有節制地應用，如何把未來走向握在人類手裡？我們不妨在幾位未來學家的預測情境下，回歸案件現場，以他們的視角重新推演事件，可能從中看出些端倪。

三大法則版一言不合算到懵圈

創立者：

預言作家艾薩克·阿西莫夫，1920年出生，他提出的「機器人學三大法則」對機器人學影響重大，他預言了今天的生物科技，預言了互聯網時代的數字圖書館。

預測情境：

在《我，機器人》一書中，艾薩克·阿西莫夫預設了機器人學三大法則——

一、機器人不得傷害人類，或因不作為使人類受到傷害。

二、除非違背第一法則，機器人必須服從人類的命令。

三、在不違背第一及第二法則的情況下，機器人必須保護自己。

三大法則在整個機器人世界中堪稱「鐵律」。

這一鐵律得以實現的核心元件被稱為「正子腦」。三大法則被寫進正子腦的最底層程序中，除毀壞外完全不可更改。

「正子腦」是鉑銥合金的海綿狀球體，體積與人腦相當，用來賦予機器人生命和心智。腦中電位的高低決定機器人的行動，第一法則電位高於一切，第二法則電位高於第三法則電位，機器人即使生命危急也會服從命令，但當命令不明確，機器人又意識到危險時，第三法則產生的電位就令他回頭。

阿西莫夫在《轉圈圈》的故事中，講述了一個機器人在人類命令和自身危險中懵圈的故事。「他」被派去採礦，由於是隨口命令，電位微弱，當發現礦池附近有腐蝕物會危及自身生命時，「他」根據第三法則後退，退到一定距離後，又根據命令前進，陷入了一直轉圈的死結中。為了救「他」出來，「他」的主人把自己放在快要烤焦的位置，才用「救人」的第一法則，打破了二三法則的電位平衡，解開這個結。

案件重演：

在這個劇情中，機器人認為人命高於一切，那麼美國機器人引爆炸彈的案件推演應該是這樣的——

「機·1號，帶上炸彈炸了他！」頭兒命令道。

「呃，如果是殺人的命令，我只能說不。」機·1號答。

「帶上炸彈平了他十米外的遮蔽物！」頭兒改口道。

「噢，十米是危及生命的危險距離。」機·1號依然不動。

「……帶上這個，接近他。」頭兒的眉頭擰成「山」字，右手丟給機·1號一個遙控炸彈，左手把遙控器藏在背後，拇指撫住觸發鍵。

「嗯……」此時機·1號腦中的電位翻江倒海，循環往複，評估到懵圈……(此處省略幾十億次的正子腦計算)

自我意識版你可曾看到我眼角的淚

未來學家雷·庫茲韋爾，1948年出生，他在1990年對2009年做了147項語言，86%得到證實。他認為，2029年，機器人智能將能夠與人類匹敵，2045年，大腦新皮層可以與雲端的人造新皮層無線相連，人的智能就是人工智慧，還比現今增強10億倍。

將人類的思維注射到機器中去，或者讓機器獲得與人類相同的心智，在諸多科幻電影中都有體現。從機器貓到《機器人總動員》里的瓦力，從有自我意識的《超能查派》到想變成人、想被愛的《AI》，這些形象都在與人的無限接近中閃光。

雷·庫茲韋爾的答案是，這完全可以實現。他的方法是製造一個人腦。「只要有真實大腦的詳細數據，我們就能模擬出生物學意義上的大腦。」