機器的覺醒：關於《西部世界》的另一篇評價

科技 10-10

人類的恐懼

伊隆·馬斯克是真實世界的托尼·斯塔克，他屬於對科技最樂觀的那一部分人，他的公司（spaceX）正在致力於將人類（主要是普通人）的足跡拓展至外太空；他的另一家公司（Tesla）則希望能夠把汽車產業從石油中解放出來；同時他還是世界上最大的在線支付公司（PayPal，對的，不是支付寶）的老闆。作為站在科技商業化最頂端的人，如果說這個世界上哪一個科技領域不讓他感到興奮，都應該是不正常的。

可是偏偏就有，那就是人工智慧。

2014年10月，馬斯克在麻省理工學院的一次訪談中提到，對人工智慧的研究將是「召喚惡魔」的行為，他認為這一領域的研究將成為未來人類最大的敵人。

馬克斯並非對人工智慧持有懷疑的唯一一位。斯蒂芬·霍金也認為，從長期看來，人工智慧是「人類生存面臨的最大威脅」。關於這種威脅有多大，這位偉大的物理學家曾對BBC說過，「開發徹底人工智慧可能導致人類滅亡」。

牛津大學的哲學家尼克·波斯特倫認為，可能會出現更加極端的未來，如果出現超級智能，那麼人類的毀滅可能僅僅只是一個開端。波斯特倫做出了一個末日假設，一個被設計製造回形針的超級智能的覺醒，將會使宇宙中任何事物都成為回形針。

「很可能有這種一樣超級智能，它唯一的目標就是做更多的回形針，讓整個宇宙都是回形針。這會是一個低價值的未來。」波斯特倫這樣評價道。

科學家斯蒂芬·霍金、企業家伊隆·馬斯克和哲學家尼克·波斯特倫都認為人工智慧是巨大的威脅

我們目前並未直接面臨科學家們設想中的威脅，不過這裡或許需要簡單地進行一點回憶——僅僅十年前，大部分普通人還把人工智慧看做一種科幻概念；四五年前，人們對它的第一印象還可能是Siri；2016年3月，Google的AlphaGo震驚了世界，在之前，沒有多少人相信它能夠戰勝李世乭。

科學的發展遠遠走在了想像力的前面，誰也不知道未來會發生什麼。

機器的覺醒：關於《西部世界》的另一篇評價

我們所處的節點（來自認同機器學習專家Jeremy Howard）

我們在害怕什麼？害怕的是機器可能的覺醒。

圖靈測試

現在讓我們把視線放回到《西部世界》這部電視劇上來。

我已經在上一篇文章里草草地分析了一些關於這部劇集成功的外部原因——關於卡司多麼豪華，宣傳多麼到位，HBO的製作多麼精良，最後用關於賽博格的一些介紹草草收場。其實還有很多話可以說。

西部世界是在用現實的例子回應我們對人工智慧覺醒的恐懼，更重要的是，在這部電視劇中，人工智慧的存在本身，就是為了折射出人類自身的慾望、貪婪與無知，在這個背景之下，機器的覺醒更顯得發人深省。或者說，合情合理。

這種設定回應了馬斯克、霍金和波斯特倫的恐懼，也回應了自從人工智慧這一概念出現的那一天起，人們就面臨的一個困局——如果圖靈測試是判斷人工智慧是否具有主觀思考能力的終極考驗的話，那麼一個故意不通過圖靈測試的AI，將會是什麼？

根據奧卡姆剃刀原理，這就是一個人類。

西部世界的開場就是一場圖靈測試，這是測試工程師們判斷NPC們是否正常的重要手段。

機器的覺醒：關於《西部世界》的另一篇評價

正在進行圖靈測試的德洛麗絲

這時觀眾可以看到，一隻蒼蠅爬在女主角德洛麗絲的臉上。蒼蠅在劇中有兩個主要的作用，第一是說明他們畢竟是機器人，對外界的反應是與人類不同的；第二就是不能殺生，即便是對一隻蒼蠅。不能殺生，類似於阿西莫夫的機器人三定律，這是西部世界遊樂場中所有NPC的程序底線，也是保證遊戲運行的根本所在。在升級過後，機器人出現明顯故障時，管理員們最優先關注的問題就是故障是否會對遊客造成人身安全威脅。

蒼蠅這個角色在劇中還有數次亮相，都有著持重的戲份。第一個發生故障的NPC治安官，就是在蒼蠅出現在臉上之後，出現了明顯的癲癇癥狀。隨後，當一群遊客在屋裡群P的時候，泰迪面無表情地坐在門口，臉上也落著一隻蒼蠅。在第一集最後一幕中，德洛麗絲微笑著、毫不含糊地說著自己的台詞，同時手起刀落一般將一隻落在自己脖子上的蒼蠅拍死。

機器的覺醒：關於《西部世界》的另一篇評價

拍死蒼蠅的德洛麗絲

這幾次蒼蠅的出現全部都有含義。第一次是德洛麗絲進行圖靈測試時的場景，配合劇情第一幕的展開，為我們展示了一個正常NPC應有的狀態。片中也強調過，德洛麗絲作為最古老的NPC，一直都是樂園中的典範。

引發治安官癲癇的蒼蠅，是在告訴觀眾，在越來越具有人性的過程中，保持機器人平穩運行是一件非常困難的工作。創始人羅伯特·福特博士在NPC升級過程中加入了一個叫做「冥思」的程序，給角色們帶來了情感更加細膩的動作，同時也導致了這一次升級過後的大規模故障。治安官在升級後，無法忍受一隻蒼蠅在臉上爬行，但迫於最底層命令的控制，無法驅趕這隻蒼蠅，導致了程序出現衝突。樂園的主程序員伯納德·勞在第一時間就意識到了問題的所在，但出於對福特博士的尊重，他並沒有點出問題的關鍵。

泰迪臉上的蒼蠅為我們展示了一個正常的NPC在面對這一情況時的表現，那就是無動於衷。從頭至尾，泰迪都是一個非常正常的機器人，他的存在就是一個標準，正常的標準。

最後，德洛麗絲毫不猶豫地拍死了脖子上的蒼蠅，給了我們第一集最重要的一個結論，作為人類對人工智慧最深刻的恐懼，一個故意不通過圖靈測試的AI終於出現了。

莫大的諷刺

第一集中最富戲劇張力的一段劇情，應該是福特博士對德洛麗絲的父親彼得進行調試的這個場景。一個機器人，無條件地服從人類給出的指令，輸出的卻是令人毛骨悚然的對白。安東尼奧·霍普金斯和路易斯·賀森這對老戲骨對飆演技，著實令人讚歎。

彼得引用了大段莎士比亞、約翰·鄧恩和格特魯德·斯泰因的台詞，表達了他對女兒的關心和對這個世界及其創造者的憤怒。我認為這個時候的彼得也已經處於覺醒的邊緣，但他的覺醒並不徹底，不足以做出故意不通過圖靈測試的表現。

機器的覺醒：關於《西部世界》的另一篇評價