《西部世界》：「人類慾望」與「機器覺醒」的碰撞

機器人在樂園裡最不該有的便是自我意識；人類都自視甚高，想當這個世界的主宰。

文｜宇多田

「我們唯一的任務是製造出比我們更聰明的東西，除此以外都不是由我們考慮的問題」。

這是上世紀90年代信息技術專家埃里澤的觀點，也是一部分敢於徵服未來的科學家的集體意志——沒有人類克服不了的難題，即便是再造一個凌駕於人類之上的物體，或許是機器人，或許是更高級的一個物種。

如果更高級的物種出現，或者是人類自己就是這個更高級的物種，繼續掌控這個世界；或者是人類看著對方進化為高級物種，呈現出一個更加複雜多樣化的世界。這種情況下，你會做出怎樣的選擇？

有意思的是，HBO本季度的大熱劇《西部世界》（對這部劇的基本介紹已經在我的上一篇文章《不只是科幻與AI ，來看HBO大熱劇《西部世界》帶給科技圈的自我覺醒》中提到過）非常隱晦地探討了這個問題。

但主角之一福特博士給出的結論卻與現實學術界的狂熱產生了背離：在該劇中，這個想法自始至終是人類諱莫如深的，是站在整個人類的對立面上提出的。

引起機器人覺醒的兩個關鍵人物：

很顯然，建立這個樂園的目的在於滿足於人類的各種慾望。無論是作為一個尊敬「機器人遊樂場」各類設定的「和平主義參觀者」，還是帶著槍支與性慾前來找樂子的殘暴的享受主義者，他們不希望看到任何反抗的存在，至少需要保證自己在樂園中永遠不會遭遇危險。

因此，幾乎外表與人類無異的模擬機器人只需要一種「遊戲設定」——服從。但在建機器人樂園的30年期間，一批又一批的機器人在逐漸的迭代後，卻開始越過「自我意識」這條關鍵紅線。

是的，他們開始具有「自我意識」，而這原本是人類的獨有屬性。

導致這一結果的緣由較為複雜，但關鍵卻是劇中兩位技術指導者的不明指引：

1、 樂園的最大領導者（創始人）福特博士，在最近開始為一些機器人嵌入「冥想」功能。通過這一功能，機器人們觸碰到了存在於體內的記憶碎片，從而產生了回憶與「自我意識」。

2、 另一位年輕技術規劃負責人伯納德的有意「放水」。他最先發現了機器人的怪異行為，卻一直在縱容這一行為。在第三集他與機器人女主角多洛莉絲的對話，就已充分說明他很早就發現了機器人自我意識的覺醒，但卻與多洛莉絲約定「談話保密」。

無論如何，他更像是與科學家埃里澤（在文章開頭已提到）持有類似觀點的角色——執迷於讓機器人更像人類，甚至超越人類。

左為福特博士，右為伯納德

但你會發現，這裡面存在一些有意思的問題：既然福特明知道這些機器人體內可能有記憶碎片，為何還要在最近為他們添加「冥想」功能？也許這會在未來的劇情延伸中得到解釋（有網友認為，福特博士有雙重人格，而下面就要提到的關鍵人物阿諾德其實是福特的另一個內在。只不過在福特博士的世界，或許「超我」壓制了「本我」）。

此外，伯納德為何會選擇放任機器人繼續做出怪異行為？第三集給出的隱晦解釋是，伯納德希望能讓死去的兒子查理」死而復生「。怎麼死而復生？將人類的記憶、思維與意識移植到模擬機器人身上，或許是伯納德認為可行的復生方法。而這也可能是人類在未來獲得永生的方法之一。

如果假設伯納德的兒子復生，那麼就會涉及到另外一個問題：機器人與人類可以共同生活嗎？他們究竟存在何種關係？但劇中福特博士目前給出的解釋是：它只是我們人類的一個樂子而已。

第三集的重要對話：引發機器人覺醒的源頭與人類慾望的衝突

《西部世界》劇情進行到現在，唯一離解開「為何機器人會進行自我覺醒」這一秘密最近的理論性闡釋就是第三集中福特博士與伯納德的那段對話。在兩人的私密交談中，福特博士口中的另一位聯合創始人——阿諾德或許將是接下來了解樂園中一切矛盾的關鍵突破口之一。福特博士這樣描述這位工程師：

「在建園最初，我有一個聯合創始人，他叫阿諾德（即便後來商業合伙人讓我把他的名字給徹底刪掉）。一開始，沒有賓客與董事會，我們只有純粹的創作（沒有各種憂慮）。而一年之後，我們的機器人開始通過圖靈測試進入西部世界。但是，阿諾德覺得還遠遠不夠。他對這些表面的智能行為並不感興趣。」

福特博士眼中的阿諾德想要一種更真實的洞悉，想為機器人創造意識。這位腦洞大開的創始人把「意識的進階」設計成了一個金字塔理論：

阿諾德的金字塔理論：意識的4層進階

機器人最先實現的應該是「記憶」，然後便是下意識的「即興反應」（如果你看過這部劇，你會發現多洛莉絲已經有了這種反應：當蒼蠅飛到臉上時會不由自主地去拍打它，這在純粹的機器人身上不可能看到），隨後便是人類具備的本性——「利己主義」（這時候的機器人基本與人無異，這是人的「本我」，是人類社會的初始形態所具備的），最後便是Top（最高層，未知），但從未實現過。

因此，我們是否可以這樣認為：

創始人阿諾德最初的設計理念是讓機器人具備意識，具備與人類無差異的同等思維模式，甚至想讓機器人融入人類生活（可以從下面阿諾德的私生活窺探出）。但這樣做的結果是什麼？人類與機器的分庭抗禮？

至少在劇中，這種取決於個別科學家的「腦洞」顯然與現實中的人類與商業思維是完全背離的。就像福特博士所說的，如果作為一個理論（僅存在於學術界）去理解人類的思想，完全沒有問題；但如果以此為藍圖來構建服務於人類的人工智慧，就是無稽之談：

「「阿諾德的確希望構建一種讓機器人將自己的程序當作是內心獨白的認知功能，也希望假以時日由他們自主產生感知。但他忽略了兩個事實：一、機器人在這裡最不該有的便是自我意識；二、除卻機器人以外的人類都自視甚高，想當這個世界的主宰。」

因此，鑒於這個樂園建立的根本目的就是賺錢，取悅遊客，滿足人類惡趣味，福特博士在最後警告伯納德，控制這些機器人的內心獨白」是目前的唯一選擇，機器人必須經過升級來清空所有記憶，阻止機器人體內聲音的再現。「一定要記住，機器人一定是無意識的，千萬不要犯阿諾德的錯誤」。

此外，儘管福特博士表示阿諾德已死，但卻又說了一些意味深長的東西：

「「他死了，就在這樂園之中。他對意識的追求完完全全吞噬了自己。而他的私生活簡直是慘不忍睹——在生活中，除了機器人，他幾乎不與人類溝通。在他看來，自己已經看到了這些機器的未來，還看到了一些還未實現的東西。」」

這裡「未實現的東西」是什麼？剛才阿諾德闡述的「意識的4個階段」理論中的最高級「未知」又是什麼？

讓我們來大膽設想一下：這裡的「未知」指的就是那種未來「完全可以與人類媲美，甚至可以凌駕於人類之上」的機器人。除了意識的進階，這些機器人還可以進入人類社會，甚至在未來能具備超越人類的智能水平。

此外，阿諾德的肉體或許已死（假設他不是福特博士自己），但「他的意識曾植根於所有早期機器人」的事實告訴我們，阿諾德的所有記憶與意識也許仍然被封存在這個樂園的某個機器人身上，等待某一刻的「解印」。但這僅是猜想，我們要隨著劇情的發展才能獲知結果。

人類或許有能力創造一個超越自己的新物種，但然後呢？

至此，《西部世界》又引出了兩個可以充分發揮我們想像力的問題：

1、人類是否有能力創造出全方面超越自己的機器人？

2、即便有能力，人類是否願意這樣做？或者說，創造出這樣一個物體後，人類將要如何掌控他們，怎樣和平共處？它們是否會進行反擊？

對於第一個問題，除了埃里澤，奇點大學校長、Google工程總監雷.庫茲韋爾很早就給出了自己的設想，而且是令人難以置信的膽大：

到21世紀20年代中期，人類將會成功地逆向設計出人腦。甚至在未來某一個時間點，電腦智能與人腦智能將得到奇妙融合，而這一結果將會顛覆人類社會，但卻只會讓社會更好。

在他《奇點臨近》一書中，庫茲韋爾從生物與技術角度將人類進化的歷史概念分為六個紀元：物理和化學紀元；生物與DNA紀元；大腦紀元；技術紀元；人類智慧與人類技術的結合紀元；宇宙覺醒紀元。

他認為，我們正處於第五紀元（人類智慧與技術結合紀元）。而在下一階段，人類將與機器人融合在一起，無論是更高端的技術嵌入人腦（斯嘉麗約翰遜主演的《Her》與湯姆克魯斯主演的《明日邊緣》都有涉及），還是人的思維意識嵌入更加智能的機器內核中（譬如威爾史密斯主演的《I，Robot》與《西部世界》中未來可能覺醒的機器人們），都將超越人類目前的極限。

這樣一來，人類與智能機器人之間的邊界也將逐漸模糊，甚至不復存在。

或者進一步來講，如果人類與自己生產的機器進行結合，那麼我們的世界也將面目全非。從進化的角度來看，這將代表著庫茲韋爾「奇點理論」中提到的一個新物種——「奇點人」將在未來出現。

再從時間上來看，庫茲韋爾認為，奇點將在人工智慧比人類還要聰明還要有能力的時候才能到來，初步預測將在2045年以後。那時候，人體3.0已經誕生，人體器官也將由性能優秀的人工器官接管……（庫茲韋爾的「腦洞」水平與《西部世界》的編劇不相上下）。

那麼問題又來了：在假設第一個猜想成立的前提下，我們在某個「奇點」階段都能順利且同時變身為擁有完美人體與機械相融合的新物種嗎？

如果在純人類、機器人以及新物種同時存在的情況下，第二個問題，特別是「人類該如何掌控」這個問題，我們應該如何來作答？

TAG:36氪 |

※《西部世界》看機器人覺醒：反噬噩夢會來嗎
※機器的覺醒：關於《西部世界》的另一篇評價
※《西部世界》第2季預告片曝光，機器人全部覺醒獵殺人類
※不只是科幻與AI，來看HBO大熱劇《西部世界》帶給科技圈的自我覺醒
※《西部世界》機器人覺醒度大排行，你覺得誰排第一？
※科技早報：意識覺醒？美國一保安機器人「投池自殺」
※《奇蹟MU：覺醒》美術總監裴昌成：我心中的魔幻世界
※HBO《西部世界》來襲，我們離人工智慧的覺醒還有多遠？
※美國一保安機器人「投池自殺」？解析機器人自我意識覺醒
※王球：喚醒機器人的自我意識，或許是人類意識再次覺醒的唯一途徑
※《異星覺醒》：科幻界的這股清流，略尷尬
※認真的嗎？《怪物獵人XX》聯動《獵人》，覺醒小傑登場
※《異星覺醒》：對生命的好奇心與敬畏感
※《異星覺醒》嚇人還是嚇人的
※《異星覺醒》嚇人還是嚇人的| 影向標
※保安機器人投池自殺 網友：這是意識覺醒了！
※意識覺醒！美國一名保安機器人投池自殺
※《異星覺醒》：最近接惡魔的生物，是人類！
※《火焰紋章無雙》預告：「覺醒」人氣角色登場