「楚門」離開攝影棚之後，抵達的是真實的世界，還是更巨大的虛幻？| 紙城PICK

天下 09-11

本

公號屬於經濟觀察報·書評

編輯／日京川

??????

現代科幻小說最糟糕的問題，或許就在於混淆了「智能」（intelligence）和「意識」（consciousness）的概念。因此，這些小說常常過度擔心機器人與人類之間可能開戰，但事實上我們真正該擔心的，是有一小群超人類精英憑藉演算法帶來的力量，與大量底層的手無權力的智人之間發生衝突。真要思考人工智慧的未來，比較值得參考的仍然是卡爾·馬克思的理論，而不是史蒂文·斯皮爾伯格的電影。

—

尤瓦爾·赫拉利

《西部世界》

人類之所以能夠控制世界，是因為合作的能力高於任何其他動物，而之所以有那麼強的合作能力，是因為他們能夠相信虛構的故事。這樣說來，詩人、畫家和劇作家的重要性絕對不在士兵和工程師之下。人之所以會去參戰、建造大教堂，是因為他們相信上帝；之所以相信上帝，是因為讀過關於上帝的詩，看過關於上帝的畫像，而關於上帝的戲劇令他們深深著迷。同樣，我們現在對於「資本主義」這個現代神話的信仰，也是由好萊塢和流行產業的藝術創作在支撐。我們相信買更多東西就會更開心，是因為在電視上親眼見過資本主義的天堂。

21 世紀初，最重要的藝術流派或許就是科幻小說。真會去讀關於機器學習或基因工程最新文章的人寥寥無幾，但很多人會去看《黑客帝國》（The Matrix）、《她》（Her）之類的電影，以及《西部世界》（Westworld）、《黑鏡》（Black Mirror）之類的電視劇。正是這些電影和電視劇，塑造了人們對於現今科技、社會和經濟發展的認識。這也意味著，科幻小說在描述科學現實的時候必須更負責，否則就可能讓人產生錯誤的想法，或是把注意力浪費在錯誤的問題上。

《黑客帝國》

事實上，許多關於人工智慧的電影實在與科學現實過於脫節，讓人覺得它們只是借人工智慧之名，談的卻完全是別的議題。2015 年的電影《機械姬》（Ex Machina），表面上講的是一位人工智慧專家愛上一個女性機器人，卻遭到她的欺瞞和玩弄的故事。但事實上，這部電影描繪的並不是人類對於智能機器人的恐懼，而是男性對於聰明女性的恐懼，特別是害怕女性解放可能造成女性統治的結果。任何講人工智慧的電影只要把人工智慧設定為女性，把科學家設定為男性，這部電影真正討論的就很可能是女權主義，而非對智能機器人的控制論（cybernetics）。

《機械姬》

到底為什麼要讓人工智慧具有性別自認？性別是有機多細胞生物的特徵，這對於非有機的受控體來說，有什麼意義？

活在盒子里

科幻小說探索另一個主題（用科技操縱和控制人類所帶來的危險）的時候，見解遠遠更為深入。在《黑客帝國》刻畫的世界裡，幾乎所有人都被監禁在網路空間，他們所經歷的一切都是由一個主演算法控制。《楚門的世界》（The Truman Show）則是專講一個人的故事，楚門在渾然不知的情況下，成了某個電視真人秀里的主角，也完全不知道自己所有的親朋好友（包括母親、妻子和最要好的朋友）都是演員；發生在他身上的一切都有精心設計的腳本；他所說和所做的一切，都被隱蔽的攝影機記錄下來，熱情觀看的粉絲人數多達數百萬。

《楚門的世界》

然而，這兩部電影雖然概念精妙，最後都還是縮了手，沒讓劇情設定發揮到極致。《黑客帝國》就仍然認為困在母體（Matrix）里的人還有真正的自我，能夠不受任何科技操縱，而且在母體之外還有個真正的現實，只要主角足夠努力，就能抵達。這樣看來，母體只是個人造的障礙，它隔開了內在的真實自我與外在的真實世界。於是，經歷過許多考驗和磨難之後，兩位主角（《黑客帝國》里的尼奧、《楚門的世界》里的楚門）都成功超越並逃離了整個操縱網路，找到了真實的自我，抵達了真正的應許之地。

奇怪的是，最後這個真正的應許之地，在很多層面上看還是和造出來的母體沒什麼不同。楚門最後離開攝影棚之後，一心想與大學時代曾經心儀但被導演安排離開節目的對象再相聚。但如果楚門這種浪漫幻想真的實現了，他的生活完全就會是《楚門的世界》賣給全球數百萬觀眾的那個好萊塢美夢，再加上在斐濟的假期。楚門走到現實世界後，到底會找到怎樣不同的生活，這部電影並沒有給我們任何提示。

同樣，在尼奧吞下著名的紅色藥丸並逃出母體的時候，也發現外面的世界與裡面的沒有什麼不同。里外都有各種暴力衝突，人類也同樣受到恐懼、慾望、愛和嫉妒的驅動。這部電影的結局最好是這樣：有人告訴尼奧，他所處的現實只是個更大的母體，如果真想再逃到「真實的世界」，必須再挑一次藍色藥丸或紅色藥丸。

從目前的技術和科學革命來看，我們該擔心的不是演算法和電視鏡頭控制了真實的個人和真正的現實，而是「真實」本身也是虛幻。人類害怕被困在盒子里，但沒意識到自己早就被困在一個盒子里了（這個盒子就是人類的大腦），而且盒子外面還有一個更大的盒子，也就是充滿各種虛構故事的人類社會。你逃離母體，來到了一個更大的母體。你想找出這個世界用哪些方式操縱你，最後也會發現自己的核心身份只是神經網路形成的複雜幻象。

人類擔心，如果被困在某個盒子里，就可能錯過世界上各處奇蹟美景。如果尼奧繼續困在母體里、楚門繼續困在攝影棚里，就永遠不會去到斐濟、巴黎或馬丘比丘。事實上，你在生活中所經歷的一切，都只發生在你自己的身體里和你自己的頭腦中。不管是逃出母體或是前往斐濟，並沒有任何區別。在你心裡，並沒有一個鐵盒子上寫著巨大的紅字警告你「到斐濟才能打開」！等你終於到了南太平洋，打開盒子，釋放出只有在斐濟才能擁有的各種感受。萬一這輩子沒能去斐濟，就會永遠錯過這些特殊的感受。沒有這種事！不管你在斐濟有什麼感受，在世界上任何其他地方也都能感受得到，就算在母體里也不例外。

或許，我們所有人都活在一個巨大的計算機模擬程序里，就像是《黑客帝國》中的母體。這樣一來，我們所有關於國家、宗教和意識形態的故事都會被推翻，但我們的心理體驗仍然是真實的。如果有一天事實證明，人類歷史不過就是來自某個鋯石行星的老鼠科學家在超級計算機上的精心模擬，那對經典學者與宗教領袖來說可真是顏面無光。但就算如此，我們還是希望這些老鼠科學家給我們解釋一下，為何要有亞美尼亞種族大屠殺，為何會出現奧斯威辛集中營。這種模擬怎麼會得到鋯石大學倫理審查委員會的許可？即使毒氣室只是硅晶元里的電子信號，所有人感受到的疼痛、恐懼和絕望並不會有分毫的減輕。

疼痛就是疼痛，恐懼就是恐懼，愛就是愛，就算在母體里也不例外。無論你感受到的恐懼是來自外部世界的原子集合還是計算機操縱的電子信號，都無關緊要。那份恐懼就是真實的。所以，如果想要探究你心智的真實，母體內或外並不會有任何差別。

《黑鏡》

大多數科幻電影其實講的都是一個非常古老的故事：心智勝過物質。這個故事會說，在3 萬年前，「心智想像出一把石刀，手工製造出一把石刀，人類殺死猛獁象」。事實上，人類之所以能夠主宰世界，主要並不是因為發明了刀子、殺死了猛獁象，而是因為能夠操控心智。心智並不是自由塑造歷史行為和生物現實的主體，而是被歷史和生物學塑造的客體。

就算是我們最珍視的那些理想（自由、愛、創造力），也和石刀沒什麼不同，都是某個人為殺死某頭猛獁象而打造的。看看目前最頂尖的科學理論和最先進的技術工具就知道，心智一直都受到各種操控。事實上，就沒有什麼「真實的自我」能夠免於被操控。你可知道，這些年來你看過多少電影，讀過多少小說和詩歌？這些人工製品又如何塑造、磨鍊了你的愛情觀？浪漫喜劇之於愛情，正如色情片之於性愛，蘭博之於戰爭。如果你覺得自己可以按下某個刪除按鈕，消除潛意識和大腦的邊緣系統（limbic system）里所有的好萊塢痕迹，那麼你已經在欺騙自己了。

我們喜歡那個製造石刀的故事，但不喜歡自己成了故事裡的那把石刀。所以，把那個猛獁象的故事改編成母體版本會是這樣：「心智想像出一個機器人；親手製造出一個機器人；機器人殺死恐怖分子，但也想控制心智；心智殺死了機器人。」然而，這個故事是有問題的。這裡的問題並不在於心智能否殺掉機器人，而在於一開始想像出機器人的那個心智，早就屬於受各種操控所生成的產品。所以，殺掉機器人無法讓我們得到自由。

迪士尼不再相信自由意志

2015 年，皮克斯動畫工作室（Pixar Studios）和華特·迪士尼公司（Walt Disney Pictures）推出了一部更符合現實，但也更令人不安的動畫大作，擄獲了男女老幼的心，票房一路飄紅。

這部動畫大作就是《頭腦特工隊》（Inside Out）。故事是關於一個11 歲的小女孩萊莉，她和父母一起從明尼蘇達州搬到舊金山，但她想念自己的朋友和家鄉，對新環境也不太適應，一心想回去。萊莉不知道的是，還有一出大戲正在上演。萊莉並不是電視真人秀里渾然未覺的主角，也不是身困於母體而不知情，相反，萊莉自己就是母體，有東西困在她的身體裡面。

《頭腦特工隊》

整個迪士尼帝國的建立，就是靠反覆講著同一個神話。在迪士尼電影中看到的，都是主角面臨困難和危險，但最後找到了真實的自我，憑藉自己的自由選擇，最終獲得勝利。《頭腦特工隊》則殘酷地撕裂了這個神話，它採用了最新的人類神經生物學觀點，帶領觀眾參觀萊莉的大腦，發現她沒有什麼真實的自我，也從來不會做出什麼自由的選擇。事實上，萊莉就是個巨大的機器人，由一系列互相牽制的生化機制所操控。

電影里，這些機制擬人化，變成一群可愛的卡通人物：開心的黃色樂樂（Joy）、憂鬱的藍色憂憂（Sadness）、憤怒的紅色怒怒（Anger）等。這些角色在總部通過巨大的電視屏幕看著萊莉的一舉一動，操控各式各樣的按鈕和控制桿，控制萊莉所有的情緒、決定和行動。

萊莉之所以沒能適應在舊金山的新生活，是因為她的總部搞砸了，可能讓萊莉的大腦完全失去平衡。為了改正錯誤，樂樂和憂憂在萊莉的大腦里踏上了一段史詩般的旅程，搭上思考的列車，探索潛意識的監獄，也到了萊莉內心的片場探班，看到一群藝術神經元正忙著製造夢境。我們跟著這些擬人的生化機制進入萊莉的大腦深處，卻一直沒遇到什麼靈魂、真實的自我或是自由的意志。實際上，整部電影故事情節的關鍵，也就是真相大白的那一刻：再也不是萊莉找到唯一且真實的自我，而是指出萊莉的身份絕不等同任何單一核心機制，萊莉的幸福快樂需要許多不同生化機制的相互作用。

一開始，電影讓觀眾以為萊莉的主要身份就是開心的黃色樂樂。但最後發現大錯特錯，甚至可能會毀了萊莉的一生。正因為樂樂認為自己就是萊莉的真實本質，她會教訓所有其他內在情緒，也就干擾了萊莉大腦里的微妙平衡。最後，等到樂樂發現自己的錯誤，所有情緒才終於得到宣洩，也讓她（和觀眾）意識到萊莉不只是樂樂、憂憂或其他任何一個角色，而是所有生化角色在衝突和合作中共同產生的一個複雜故事。

真正讓人意想不到的，不僅是迪士尼敢於推出一部概念如此激進的電影，而且這部影片在全球造成了轟動。成功的原因可能在於《頭腦特工隊》就是一部喜劇，有個快樂的結局，多數觀眾並未發現它在神經學上的意義，也沒看出它藏著如此顛覆性的內涵。

但如果說到20 世紀最具預言意義的科幻小說，情況就大不相同了。這部小說明擺著就是要顛覆，雖然成書在將近一個世紀前，但是一年比一年更貼近現實。奧爾德斯·赫胥黎（Aldous Huxley）的《美麗新世界》（Brave New World）成書於1931 年，當時法西斯主義在義大利根深蒂固，納粹主義在德國如日初升，日本軍國主義揮師入侵中國，整個世界也陷入「大蕭條」（the Great Depression）的泥淖。但赫胥黎的火眼金睛看穿了這片密布的烏雲，預想未來的社會沒有戰爭、饑荒和瘟疫，只有永續的健康、繁榮與和平。那是個消費主義的世界，性、藥物和搖滾毫無限制，只以幸福快樂為最高價值。《美麗新世界》的基本假設是：人類就是生化演算法，而科學可以破解這套演算法，再運用技術加以操控。

在這個「美麗新世界」里，世界政府（the World Government）運用先進的生物科技和社會工程（social engineering），確保每個人總是很滿足，沒有人有任何反抗的理由。這就像萊莉腦中的樂樂、憂憂和其他角色都成了忠誠的政府代理人，於是再也不用什麼秘密警察、集中營或是奧威爾《一九八四》裡面寫到的友愛部（Ministry of Love）。確實，赫胥黎的天才之處就在於點出如果想要控制民眾，利用「愛」和「快樂」會比利用「恐懼」和「暴力」更為可靠。

奧威爾在《一九八四》里描述的世界顯然就是一個可怕的噩夢，唯一的問題就是：「我們怎樣才能避免走向這種可怕的狀態？」讀《美麗新世界》，其實既令人不安，也發人深省，因為你很難去指責把這一切變成反面烏托邦的因素。畢竟，世界繁榮和平，人人滿意歡喜，這又有什麼不好呢？

赫胥黎在小說的高潮直接討論了這個問題。這段內容由兩個角色的對話展開：一個是穆斯塔法·蒙德（Mustapha Mond），西歐世界的控制者；另一個是野蠻人約翰，一輩子都住在新墨西哥州的原住民保留區，他是倫敦唯一一個仍然知道莎士比亞和上帝的人。

野蠻人約翰想要鼓動倫敦市民起身反抗控制他們的體制，市民的反應極度冷漠，但警方還是逮捕了他，把他帶到蒙德面前。這位世界控制者與約翰聊得挺愉快，並告訴約翰如果堅持反社會，就該搬去一個與世隔絕的地方，當個隱士。約翰質疑隱藏在這種全球秩序背後的想法，指責世界政府在追求幸福快樂的時候，不但抹殺了真與美，也抹殺了生命中的一切英勇與高貴。

「我年輕的朋友，」穆斯塔法·蒙德打斷了他，「現在的文明世界是不需要什麼高貴和英雄主義的。因為這類東西不能帶來什麼政治效率。高貴或英勇只會表現在亂世中，像我們這種合理平和的社會裡，人是沒有機會來表現他的高貴或英勇的。因為高貴和英雄主義只有在戰爭或派別分化時，或者在抵制誘惑和保衛自己所愛時才會有它存在的意義。但現在我們既沒有戰爭，也沒有派別分化，人們更不會為自己所愛有過激的行為。所以我們這兒不需要這個東西。你的條件設置讓你愉悅地自然而然地去做你應該做的，也就不存在什麼誘惑需要你去抵抗了。即使在出現意外時發生了不愉快的事，你也能用唆麻來迴避，它會讓你遠離現實，進入一種你想要的虛幻中，這樣你就有足夠的耐心來承受長期的痛苦，讓你能心平氣和地對待你的敵人。這在以前，你得付出相當大的努力和多年艱苦的道德訓練才能達到這種境界；可現在只需兩三粒半克的唆麻就能帶你實現了。現在所有的人都可變得高尚，那個瓶子就可以裝下你至少一半的道德，你可以帶著它去任何地方。沒有眼淚的基督教——這就是唆麻。」

「但我覺得眼淚還是必需的。還記得《奧賽羅》里說過：和煦的陽光總在暴風雨之後，那就讓狂風恣意吧，吹醒那死亡。還有一個印第安老人常跟我講一個有關瑪塔斯吉姑娘的故事。那些想娶她的小夥子必須到她的園子里去鋤一上午地。這看似簡單，但實際是園子里有很多很多帶魔法的蚊子和蒼蠅。大部分人都會受不了，只有經得住考驗的才能得到那姑娘。」

「這是個動人的故事！但在我們的文明世界，」控制者說，「你根本不用這樣大費周折就能得到她，也不會有什麼蒼蠅蚊子，幾個世紀以前就被我們徹底消滅了。」

野蠻人皺起了眉頭。「你們只是消滅蒼蠅蚊子，消滅所有不愉快的東西，而不是去學會忍受它們。『默然忍受命運的暴虐的毒箭，或是面對苦海，拿刀做個一了百了。』你們既不是『默然忍受』，也不是『一了百了』，而只是取消了命運的毒箭，這樣未免太簡單化了。」

「那裡面確實包含很多東西，」控制者說，「男人和女人的腎上腺素需要定期地來刺激一下。」

「什麼?」野蠻人聽得有點莫名其妙。

……

「那是為身體健康所設的條件設置之一。我們把接受V.P.S. 治療規定為一種義務。」

「V.P.S. ？」

「就是代猛烈情愫。每月一次，它可以讓整個生理系統都瀰漫腎上腺素。從生理上來說，它就完全等同於恐怖與狂怒。它讓人感受到的效果跟殺死苔絲德蒙娜或被奧賽羅殺死是相同的，但你不會感到絲毫的不適。」

「但我卻更喜歡那種不適。」

「我們可不喜歡，」控制者說，「我們喜歡一切都舒舒服服地進行。」

「我要的不是這樣的舒服。我需要上帝！詩！真正的冒險！自由！善！甚至是罪惡！」

「實際上你是在要求受苦受難的權利。」

「隨便你怎麼說，」野蠻人挑釁地說，「就算我現在是在要求受苦受難的權利吧。」

「那你是不是也需要衰老、醜陋、陽痿、梅毒、癌症、飢餓、傷病這些醜陋的東西，甚至你也希望總是在擔心明天有不可預知的事發生，或者你還需要遭受種種難以描述痛苦的折磨呢。」

接下來是長久的沉默。

「是的，這一切我都要。」野蠻人終於開口了。

穆斯塔法·蒙德攤開雙手聳了聳肩說:「那就隨便吧。」

「事實上，」穆斯塔法·蒙德說，「你要求的是不快樂的權利。」

「可以這麼說，」野蠻人挑釁地說，「我是在要求不快樂的權利。」

「你還沒有說要有變老、變醜、變得性無能的權利，要有患上梅毒和癌症的權利，要有食物匱乏的權利、討人厭煩的權利，要有永遠擔心明天會發生什麼事的權利，要有感染傷寒的權利，要有被一切無以言表的痛苦折磨的權利。」

說完是一段長時間的沉默。

「我要求這一切的權利。」野蠻人終於打破沉默。

《黑鏡》

野蠻人約翰最後去往無人居住的荒野，成為一名隱士。多年來他住在原住民保留區里，被莎士比亞和宗教洗腦，他受到了制約，拒絕了所有現代帶來的恩惠。但是流言很快傳開，說到有這樣一個非比尋常的有趣人物，於是眾人蜂擁而至，觀察、記錄著他的一切，轉眼間他聲名大噪。這一切不請自來的關注令他真心感到作嘔，於是野蠻人決定逃離這個文明的母體，但方式不是吞下紅色藥丸，而是上吊自殺。

不同於《黑客帝國》和《楚門的世界》，赫胥黎質疑的是究竟會不會有人真想逃離，也就是質疑了逃離的可能性。既然你的大腦和「自我」都是母體的一部分，想逃離母體，就必須要逃離自我。這個可能性一直值得探索。在21 世紀，擺脫對自我的狹義定義也可能成為必需的生存技能。

本文由出版社授權轉載，節選自《今日簡史》第18 章—<未來不是科幻小說：無法逃離的母體>

《今日簡史》

（以）尤瓦爾·赫拉利 / 著林俊宏 / 譯

中信出版集團 2018年8月