金寧 石海明‖??《西部世界》：機器人反叛人類的技術狂妄

《西部世界》：機器人反叛人類的技術狂妄

金寧 石海明

（國防科技大學）

2016年，美劇《西部世界》風靡全球，觀眾驚呼其乃大開「腦洞」的神劇。全球權威的電影評論網站均給出高分，其中互聯網電影資料庫IMDB評分9.3、美國電影網站爛番茄評分89%、中國豆瓣網評分9.4。在該劇大獲成功的同時，很少有人知道這部美劇實際上是以1973年的同名電影為藍本，而1973版《西部世界》也是中國引進的第一部科幻片。

電影《西部世界》的故事發生在遙遠未來的特洛斯樂園。那是一座巨型的高科技成人樂園，其中有西部世界、羅馬世界和中世紀世界三大主題版塊。樂園裡包括人在內的一切動物都是機器，機器人除了手的部位和真人不同，在外觀上和人類一模一樣。遊客們只需支付1000美元一天的費用就可以在樂園中為所欲為。期間他們可能會面臨危險，比如碰上猛獸或機器人的攻擊，但是樂園中所有的槍都被放置了感測器，無法對有溫度的人體進行射擊，而所有動物也都被設定了程序，無法真正傷害遊客。這樣，遊客就成為了特洛斯樂園中的上帝。

電影以一則電視廣告開頭，被採訪者們榮光煥發，興奮地講述著西部世界的夢幻和美妙。隨後，鏡頭切換到一群新遊客。他們正乘坐著通往西部世界的飛船，臉上洋溢著期待和激動的神情。在歡快輕鬆的背景音樂中，遊客們換上了西部世界的服裝，一邊偷瞄美貌的女機器人，一邊意氣風發地暢想進入樂園後的計劃。當最初進入樂園時，遊客們對落後的生活條件不滿，可是他們漸漸發現自己的確可以為所欲為：羞澀木訥、膽小懦弱、剛剛在現實世界中被女人拋棄的馬丁可以懷抱性感迷人的女機器人共度良宵，可以僅僅因為被撞翻了就提槍殺死精壯的男機器人，也可以和夥伴一起越獄並殺死執法官；愚笨的男遊客可以成為新的執法官，醜陋的男遊客可以做女王的情人，年老色衰的女遊客也可以享受俊男們的青睞和愛慕……正如男遊客布蘭所說：「在特洛斯樂園中，你可以隨心所欲。」隨後，故事的轉折點出現在研究人員發現機器人像得傳染病一樣接連出現故障。樂園的後台逐漸喪失對機器人的控制，遊客一個接一個被機器人殺死，所有的計劃逃離者都被鎖定。當用火燒死了機器人殺手之後，布蘭成為了唯一存活下來的遊客。影片的最後是對布蘭的特寫，他癱倒在羅馬世界的階梯上，眼神絕望而又獃滯，耳邊只剩下恐怖的迴響：趕快安排一下，來搭乘我們的氣墊飛船，前往中世紀世界、羅馬世界和西部世界……

和電視劇版本相比，電影《西部世界》的角色、情節和場景的變換節奏相對緩慢，有些許拖沓之嫌。同時，由於年代較早，影片中設想的科學技術在今天看來不夠完善甚至可以說落後，比如樂園中的機器人和人類的手相比仍有明顯缺陷，飛船上使用的監控攝像頭像素極低。但除卻這兩點，電影仍為電視劇新作奠定了紮實的劇情基礎和拍攝框架。要知道，在20世紀七十年代時，世界機器人研究仍處於研究機械功能階段，研究成果包括機器人手、帶視覺的自適應機器人，等等，而對有意識、有情感的機器人研究還遠沒有顯現端倪。因此，不難想到，電影《西部世界》中那些最終超越人類的機器人在上映的當時是多麼的具有魔幻色彩。在40多年後的今天，智能機器人的主題仍舊沒有過時並成為了世界關注的焦點，單從這一點上看，《西部世界》足以堪稱一部經典的科幻電影，昭示了機器人在未來的發展趨勢。

從技術的角度上看，本片深刻地挖掘了技術的本質。在人類歷史的長河中，人類社會的基石，往往可以歸結為人的天性。按照弗朗西斯·福山在《政治秩序與政治衰敗：從工業革命到民主全球化》中的說法，根據天性，人類是創造和遵循規範的動物，由此人們結成團體，人類社會才逐漸由族群社會發展為部落社會再發展為民族國家社會。而馬克思恩格斯則認為，技術的本質是人的本質力量的對象化。對此，可以進一步解釋為，技術是人的天性力量的外化。

美國科技史學者梅爾文·克蘭茲伯格在30年前提出了六條科技定律，其中第二條定律是發明是需求之母，即最初技術的發明不是由於需求的牽引而產生的，那麼技術的發明是從哪裡來的呢？人類的好奇和創造的本性可能就是答案，而技術則正可以被用於滿足人類其他方面的天性，比如對權力、暴力的慾望。西部世界就是這樣一個人類可以肆意滿足和展現本性的理想場所，而西部世界之所以能夠存在，關鍵就是依賴於技術。由此從宏觀上來說，西部世界是一個技術產物，同時也是人類天性的外化。可以說，每個人心中都有一個「西部世界」，在那裡人們可以不受法律、社會規範等現實社會的制約，而通過技術，人類正在將心中的世界變為現實，這就是技術的巨大力量。

然而，就像影片的結局那樣，西部世界最終崩潰了。當人們已經知道該去哪裡尋找西部世界時，那個世界已經被人類自己創造的產物——機器人——徹底摧毀，而人類自身的生存和發展也受到了嚴重威脅。技術的危險性已成為大量科幻影片深入探討的話題，其中有人討論技術本身的缺陷，比如《她》中控制系統無法滿足用戶的觸感需求，也有人挖掘技術蘊含的道德挑戰，比如《AI》中機器人小孩對人類母親投注的真愛換來的卻是欺騙和傷害，還有人關注技術對人類生存的威脅，比如《銀翼殺手》《機械公敵》和本片中機器人與人類的大決鬥。當機器人技術處於初步發展階段時，人類為自身的成就欣喜若狂，熾熱地幻想著未來世界的美好圖景，可是一旦機器人出現故障，人類才能覺醒，作為「造物主」的我們可能將被自己創造的東西所毀滅。

技術風險產生的原因有兩條：首先是人類運用技術時的惡意。當技術被用來消滅人類本身時，比如戰爭，那麼人類在有技術參與中的死亡必然發生。在另一種情形中，也是更值得討論的情形，即人類出於善意改造世界的目的而運用技術時，技術的風險性來源於人類預判技術影響的不足。在發明和運用技術的過程中，「摸著石頭過河」是常態。技術的先進性決定了其缺少先例和經驗可以借鑒和遵循，並且技術的發展本身往往刷新了人類的認知極限，因此對於技術及技術風險的評估和預見難以真正發揮作用。

正如在《西部世界》中，當研究人員發現機器人大面積出現故障之時，他們都束手無措，唯一能做的就是關閉西部世界一個月，並且驚嘆說：「原來機器也會生病！」而主研究員也只能語重心長地說出真相：「我們還不完全清楚它們（機器人）是怎麼工作的，因為它們幾乎和人類一樣複雜。」影片中，機器人雖然一直受制於人類設定的程序，但是最後經過學習、訓練和演化，產生了獨立的行為模式，即人類眼中的「意識」，從而具備了超越人類的能力，這是人類從未預見並防範到的，而對於機器人這一特定的事物來說，技術故障產生的後果對於人類可能是毀滅性的。這樣就進一步加重了機器人技術的風險性。

技術的風險性不可避免，那麼我們還要去「西部世界」嗎？經歷過影片中一切的布蘭一定會拒絕，經歷過切爾諾貝利核泄露事件的傷者一定也會拒絕，而經歷過特斯拉自動駕駛汽車事故的車主可能也會拒絕。只有親生經歷技術對自身的「背叛」之後，人們才會真正產生對技術的不信任感，才會由此生髮出技術發明應當謹慎小心的想法。而其他那些享受技術帶來的便利、快捷和夢幻的人們，的確難以意識到技術的風險性。

實際上，「西部世界」是人類慾望膨脹的產物，是人類渴望通過技術突破藩籬和限制的外在表現。當人們不斷向「西部世界」邁進時，人們很少會回顧自身的發展歷程。世界從一片混沌中逐漸產生熱並反覆冷卻，大氣層和地質層慢慢形成，第一個細胞產生，原生生物不斷發展直到脊椎動物產生，人經過漫長的歲月終於和猿區別開來，隨後再伴隨著工具的出現、發展和勞動，人類終於有了今天的樣子。在無盡延伸的時間中，人類被「創造」出來並由此站在了食物鏈的最頂層。而就在今天，我們自己作為「造物主」創造了機器人，那麼，是否未來會有這樣一天：機器人經歷了漫長的進化並最終超越了我們，站在了新食物鏈的頂層？而那時，人類又在哪裡？

值得欣慰的是，根據目前的技術創新來看，「西部世界」仍舊只存在於人們的幻想中。在筆者看來，那是一個不該實現的幻想。技術的發展應當與人類的理想完美狀態保持合理的距離。有了這個距離，人類才能呼吸，才能與機器人和諧共生。

金 寧：碩士，國防科技大學國防科技與社會發展研究中心。

石海明：國防科技大學國際問題研究中心研究員，中國指揮與控制學會青工委副主任，國防科技與社會發展研究中心副教授，博士，《國防科技》雜誌編委，中國軍視網、《深圳衛視》、《湖南衛視》、《科技日報》特約評論員，中信改革發展研究院研究員，北京航空航天大學、湖南師範大學兼職研究員，遠望智庫特約研究員，《光明日報》社科普專家。

與人合著出版《從物理戰到心理戰》、《虎狼之翼：關於科學技術與軍事變革的對話》、《適應者死亡：媒體狂歡時代的全球戰略博弈》、《科學、冷戰與國家安全》、《制腦權》等9部作品，與人合譯《技術與國際體系變遷》、《思想大戰：腦科學與21世紀的軍事》、《信息戰：以柔克剛的藝術》3部。主持國家級科研項目2項。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！