人工智慧倫理：科幻文學怎麼想、怎麼說

科技 08-17

呂超/天津師範大學文學院

［導讀］近年來，由於劉慈欣《三體》等科幻作品的大熱，沉積多年的中國科幻文學重新回到主流學界視野。文學生產作為社會意識的表現機制，科幻文學一定程度上顯示出人類對現時、未來社會的想像、追問、探索，因而從題材上看，科幻文學具有一定的前瞻性，作者視野並不受限於具體的科技進展，而是對人類社會的價值觀、發展觀關切至深。本文聚焦於中西科幻文學中的人工智慧倫理，基於人類價值觀和認識論的演變，從科幻文學的角度探討人工智慧倫理的歷史脈絡。

多年以後，當人工智慧的機器大軍四處圍獵人類殘部時，躲在陰冷地堡中的人類戰士夜深難眠，回憶著人機大戰的遙遠開端：從1988年開始，「深思」、「深藍」、「AlphaGo」等先後在象棋、圍棋領域擊敗人類，人類的榮耀便日趨衰落??

幸好，這種慘淡未來，只是筆者構想的虛擬圖景。當然，這也絕不是杞人憂天，對未來的悲觀預言是為了警醒當下世人：面臨正在開啟的「人工智慧紀元」，我們必須儘早建構一種穩妥的科技倫理，以此來引導人工智慧的研發方向和應用領域。本文並不細數人工智慧倫理的微觀條款，而是基於人類價值觀和認識論的演變，從科幻文學的角度探討人工智慧倫理的歷史脈絡，並推演未來可行的發展方向，既展現世界視野，也兼顧中國話語。

人工智慧（Artificial Intelligence，縮寫為AI）一詞在1956 年的達特茅斯會議[1]上被首次提出。作為一門新的交叉學科，目前主要涉及計算機領域，它試圖了解人類智能的實質，進而生產出一種媲美人類智能的軟體系統、機器人（Robot）、仿生人（Android）或賽博格（Cyborg，也譯生化人），乃至全面超越當今人類的「新人」。當然，早在人工智慧這個詞被明確提出之前，人類對「人造智能生命」的想像便早已開始，尤其和科幻文學有著千絲萬縷的聯繫。

科幻文學中的人工智慧倫理具有一定的前瞻性，並不受限於具體的科技進展，而是與人類的價值觀演變息息相關，其中不僅有對科技的反思，也包含著複雜的神學焦慮和哲學思考。概言之，西方文學中人類對「人造智能生命」的態度，大體經歷了從拒絕接納，到奴化控制，再到交融共生的三個發展階段。西方的基督教神學傳統和人類中心主義哲學，以及對現代性的反思是推動其不斷深究這一問題的文化根源。相對而言，基於陰陽五行、萬物有靈的傳統思維，以及對現代性的樂觀認知，近代之前的中國文學幾乎不關注人工智慧倫理問題；此後，在西學東漸的時代變革大潮下，中國文學開始逐漸關注該領域，發出自己的聲音，但現代性的探討相對不足，在作品數量和理論深度方面均有待提升。

早在人工智慧這個詞被明確提出之前，人類對「人造智能生命」的想像便早已開始

▍拒絕接納

「人造智能生命」題材最著名的作品當推英國作家瑪麗·雪萊（MaryShelley）1818年出版的《弗蘭肯斯坦——現代普羅米修斯》，這也是世界科幻文學的肇始之作。小說的副標題隱喻了古希臘神話中普羅米修斯造人的故事，但與神話中普羅米斯修對人類無限眷顧，甚至不惜盜天火的自我犧牲精神相反，作品中的造物主（科學家弗蘭肯斯坦）始終不願接受這個外表醜陋的智能生命，也因此引發一系列殘酷衝突。這部作品給後人留下了很多值得深思的倫理問題，譬如：一旦「人造智能生命」產生後，其行為是否應被納入人類的倫理準則？人類是否要擔負起使其生活幸福的責任？遺憾的是，瑪麗·雪萊並沒有回答這些問題，對「人造智能生命」持否定態度的她，從根本上拒絕討論倫理建構的可能性。

在之後的很長一段時間，不少作家對人工智慧的態度和瑪麗·雪萊相似，其筆下的「人造智能生命」在沒有被納入社會關係之前，便直接或間接地將創造者殺死。譬如，《白鯨》的作者麥爾維爾（HermannMelville）在《鐘樓》(1855)中描寫敲鐘的智能人偶殺死了自己的製造者；另一位美國作家比爾斯(Ambrose Bierce)在《莫桑的主人》(1909)中描述智能人偶因輸掉棋局而釋放高壓電流殺死主人。需要說明的是，這一階段對人工智慧的稱謂大都是Automaton。據《牛津大詞典》（OED）記載，該詞最早出現於1611年，意指借鑒鐘錶齒輪技術而製造的自動機械人偶，和後世文學中的高智能人造生命差距較大。

此外，還有一類對人工智慧持否定態度的作家，他們作品中的造物者雖然沒有被殺死，卻都是反面形象，「人造智能生命」也最終被損毀。較早的作品有德國作家霍夫曼（E.T.A.Hoffmann）的《沙人》（1816）。小說描寫神秘人物「沙人」製造出女性智能人偶，後因事迹敗露，人偶在爭搶中被肢解，迷戀她的男主角也瘋癲而亡。此類作品最具代表性的當屬法國作家維里耶·德·利爾-亞當（Villiers de l Isle-Adam）的小說《未來夏娃》（1886）。作者把當時還在世的愛迪生描述成偏執而又詭異的發明家，他為好友埃沃德製造了一個和真人女性極度相似的智能機器人哈德莉。但最終哈德莉卻死於一場海難。在這部小說中，智能機器人一詞為Android。據OED記載，該詞最早形態為Androides。「andro」在希臘字源中指的是「人類」，而「eides」意為「形狀」，兩者相連就有了「具備人體特徵」之意。如今，人們在使用Android一詞時，一般特指擁有人類形體的智能生命體。

上述作品有一個共同點，即科學家的創造活動還只屬於個體行為，被造出的單個智能生命在沒有得到社會承認之前，便以悲劇收場。筆者以為，這種否定立場的背後隱喻有西方社會普遍存在的神學焦慮。按照基督教的觀點，人的自由不是無邊的，必須承認自身的局限性，保持對上帝的敬畏之心。在人的眾多定限中，最重要的一點便是在道德方面：人類無法實現道德完美，掌握先進科技的人在道德上未必良好。那些「造人」的科學家在挑戰上帝權威方面，很像魔鬼撒旦。狂熱的他們讓生命進化脫離了自然演變的過程，進而釋放出無法預料的破壞性力量。最終，人類不但不能控制自己的創造物，反而被置於死亡的恐怖境地。有鑒於此，作家們通過文學作品發出警示：不負責任的濫用科技，不論是以求知的高尚名義，還是以賺錢享樂為目的，都是違背人倫的！然而在現實社會中，人類探索生命奧秘的努力並未因此而止步，反而有加速跡象，這就註定了人工智慧倫理問題必然會在後世文學中被不斷提及。

「人造智能生命」題材最著名的作品《弗蘭肯斯坦——現代普羅米修斯》

1920年，捷克作家卡雷爾·恰佩克（Karelapek）通過劇作《羅素姆的萬能機器人》將「造人」科學家的個人悲劇放大為全體人類的末世審判。大眾所熟知的Robot（機器人）一詞便源於該劇，詞源為波蘭語的「強迫工作」（Robota）和「工人」（Robotnik）。顯而易見，該詞隱喻了機器人服務人類的勞工地位。劇中的機器人由工廠批量製造，外表和人類毫無二致。人類為了從日常勞動中解脫出來，大量使用這種機器人。後來，機器人不再服從奴役，轉而發動戰爭消滅了人類。恰佩克的這種悲觀看法是當時人們對人工智慧人拒斥態度的典型代表。這種觀點認為，雖然人類好逸惡勞的本性決定了人工智慧一開始會被廣泛接受，但隨著科技進步引發的不確定風險加劇，一旦人工智慧站到人類的對立面，人類將遭受滅頂之災。此類文學作品有很多，譬如美國作家約翰·坎貝爾（JohnCampell）的《最後的進化》（1932），萊斯特·雷伊（Lester Rey）的《為人類復仇》（1984）等。

時至今日，這種「人工智慧危險論」依然擁躉甚眾，科技大佬比爾·蓋茨、埃隆·馬斯克以及著名物理學家史蒂芬·霍金，都對人工智慧研發持審慎態度。《終結者》、《駭客帝國》等經典科幻電影更是將這一觀點渲染得婦孺皆知。很明顯，對未來的悲觀預言是為了警醒世人：如果人類必須要面對人工智慧，就應儘早建構一種穩妥的科技倫理，以此來約束人工智慧的研發方向和應用領域。

▍奴化控制

當然，儘管有不少作家將人工智慧視為人類生存的威脅，但同時也有許多作家並不認可這種悲觀預測，他們更願意在作品中將人工智慧描述為人類的得力助手，以服務人類為主旨。

此類較早的文學作品當推美國19世紀中後期的通俗小說。譬如艾立斯（Edward Ellis）筆下的「蒸汽動力人」（Steam Man）系列，塞納任（LuisSenarens）筆下的「電人」（Electric Man）系列。[2]這些暢銷小說，對當時的青少年產生了深遠影響。小說中的人工智慧雖然名稱各異，也尚未具備高等智慧，但無一例外都是主人公冒險旅途中的好幫手，屬於忠實的奴僕角色。

需要強調的是，即便在將人工智慧視為人類威脅的作品中，以奴僕身份出現的人工智慧往往也在一開始被社會廣泛接受。這暗示了一條基本的倫理關係：人工智慧天生為人類的奴僕。在西方文化傳統中，思想界普遍認為人類高於其他物種，在等級關係中處於上層。譬如，古希臘哲學家普羅泰戈拉聲稱「人是萬物的尺度」；德國哲學家康德宣稱「人是目的本身」。這些理論支撐起了人類中心主義倫理學，並對大眾產生了深遠影響。從這一角度來看，人和人工智慧分屬兩種生命形式，後者沒有理性和靈魂，只能算是有生命的工具。人類作為高等智慧生命可以奴役低等生命，而不用背負道義上的責難。

不過，人類中心主義的倫理學在處理這種關係時有著很大缺陷。這種內隱的等級制和叢林式的強者邏輯，是人類控制人工智慧的倫理依據，但進步的科技很可能在將來顛覆二者的強弱對比。正如黑格爾在《精神現象學》（1807）中闡釋的「主奴關係辯證法」，主人和奴僕的地位是會互相轉化的。在神話中，神創造了人類；在現實中，人類則造出了人工智慧。當人類難以脫離人工智慧而獨立生活時，就已經很難區分兩者之間的控制關係，更何況「造反」的人工智慧憑藉自身的強大力量，轉而奴役或滅絕處於劣勢的人類。基於這一邏輯，將人工智慧視為人類生存威脅的觀點並非危言聳聽。

然而，在現實社會，人工智慧的研發並未因這種恐懼而止步，反而有加速跡象。畢竟很多相關從業人員並不贊同這種悲觀預測，他們認為人工智慧雖然具有強大的運算及自我學習能力，卻沒有智慧，只要人類設計出精妙的程序，就能夠控制人工智慧。此類觀點以美國作家艾薩克·阿西莫夫（Isaac Asimov）擬定的「機器人三定律」最為著名。該觀點在小說《環舞》（Runaround，1942）中第一次明確提出。1950年出版的小說集《我，機器人》（I, Robot）則系統闡釋了「機器人三定律」：「第一，不傷害定律：機器人不得傷害人類，也不得見人受到傷害而袖手旁觀。第二，服從定律：機器人必須服從人的命令，但不得違反第一定律。第三，自保定律：機器人必須保護自己，但不得違反一、二定律。」這三條定律在製造機器人的伊始便被嵌入其大腦，永遠無法消除。毋庸置疑，阿西莫夫的貢獻是巨大的，其後的文學作品，如果不是專門討論人工智慧倫理問題，基本都會遵循該定律來敘事。

在三定律的背後，是阿西莫夫為了確保人類的統治地位，而設想了一種符合康德「絕對律令倫理學」的人工智慧。眾所周知，康德探討的是關於絕對律令的普遍道德法則，他在《道德形而上學基礎》（1785）中強調：人應當只按照普遍法則行動。在康德看來，既然不能說謊成為普遍法則，那麼向一個殺手說謊也是不應該的。很明顯，這與人類依據現實情境而調整的「彈性」倫理完全不同。康德的原本思路是：在認識領域「人為自然立法」，在道德領域「人為自己立法」。阿西莫夫卻巧妙地將兩者結合，把康德給人類自己的立法原則轉移給了機器人，將其設定為符合絕對倫理法則的群體。

從語義邏輯的層面來看，阿西莫夫的三定律似乎完美化解了前人對人工智慧「造反」的擔憂，但仔細分析，依然有很多漏洞，這裡僅舉最重要的四點。

阿西莫夫擬定的「機器人三定律」對後世影響深遠

第一，技術上難落實。三定律所要解決的是人機之間的倫理困局，但很多倫理問題，連人類都無法做出適宜的應對策略，更何況受由人類研發的人工智慧？再者，人類雖然能在一開始控制人工智慧，但卻無法保證越來越先進的人工智慧永遠處在人類的掌控之中。

第二，現實中不可行。三定律應用在複雜多變的現實社會，常常會捉襟見肘，有時甚至會引發自相矛盾的窘況。阿西莫夫本人也意識到了這一點，因此對三定律的修改成為他後期作品的主線。在《可以避免的衝突》（TheEvitable Conflict，1950）中，機器人為了避免人類個體彼此傷害，便限制人類的行為，轉由機器人掌控一切。這促使阿西莫夫補充了「第零定律」：機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害。原先的三定律都要服從第零定律。但是，這條定律的最大問題就是：機器人如何權衡自己當下的行為會不會傷害人類整體？後來，其他學者也提出了修正建議，最著名的當屬保加利亞作家狄勒烏（LyubenDilov）在小說《伊卡洛斯之路》（1974）中提出的「第四定律」：機器人在任何情況下都必須確認自己是機器人。但這些修補並不能改變固有的設計缺陷。

第三，忽視了人類和機器人的情感問題。眾所周知，人類的情感世界是非常複雜的。也許機器人保姆把某些人撫養長大後，他們之間會產生類似親情的感情，譬如阿西莫夫的小說《羅比》（1950）。另外一些人和機器人長期相處，可能會產生類似友情的感情，譬如美國作家邁克爾·雷斯尼克（MikeResnick）的小說《知己》（2009）。更有人甚至和機器人墜入情網，並最終成婚，譬如萊斯特·雷伊的小說《海倫·奧勒》（1938）。也許旁觀者無法理解，但當事人會認為這份感情和人類之間的感情一樣珍貴。很明顯，機器人三定律無法處理這些棘手的感情問題。似乎只有打破二者的主奴關係，才有解決的希望。在這方面，可以借鑒亞里士多德在《尼各馬可倫理學》中提出的觀點，他承認主奴之間可能存在的「友愛」關係，原因在於兩者都有「靈魂」。亞里士多德認為：「奴隸是有靈魂的工具，工具是無靈魂的奴隸。作為奴隸對它是不存在友誼的。然而，他可以作為人，對於一切服從法律，遵守契約的人，他們之間似乎有某種公正，作為人當然有友誼。」[3]比照而言，當機器人有了感情之後，也就脫離了純工具的範疇。此時人類應本著智慧而有責任的原則，建立一種新型的人機關係。

第四，迴避了一個本體論問題——何為「人」？作為斯芬克斯之謎，人類對這一問題追問了數千年。筆者在此主要探討「人」的資格的獲得問題：到底是自然遺傳屬性，還是社會文化屬性決定了「人」的身份？抑或是二者兼具？從三定律所代表的人類中心主義倫理觀來看，人類中的白痴生下來便享有基本的人權，在等級方面位列人工智慧之上，而後者即便掌握了人類的文化，也不能躋身人類之列。義大利作家科洛迪的《木偶奇遇記》（1883）可以視為這一等級關係的絕佳隱喻，如果沒有仙姑的幫助，善良的木偶匹諾曹即便歷盡千辛萬苦，也不會變成「人」。難能可貴的是，阿西莫夫在後期作品《兩百歲的人》（1976）中打破了傳統觀念。小說描寫機器人安德魯為了成為真正的人，逐步將自己的機械零件替換成活體器官，終於在兩百歲生日的彌留之際，以死亡的代價獲得了人類的承認。

顯然，以阿西莫夫為代表的樂觀派，對人工智慧危險論的補救並不成功。畢竟，站在人類中心主義倫理觀的立場上，從「主奴二元對立」的邏輯出發，很難構建起穩定的人工智慧倫理，亟待提出更新型的思考路徑。

▍交融共生

20世紀中期以後，隨著科技進步，特別是人造器官的研製，人類逐漸打破肉體禁忌，將一些機器部件納入血肉之軀，譬如植入大腦的晶元，廣泛使用的義肢，不可或缺的心臟起搏器。按照這一發展趨勢，也許在未來社會，人類和人工智慧的區分將不再是涇渭分明的。

1960年，為了解決未來人類在星際旅行中面臨的困難，美國航天醫學領域的科學家首次提出賽博格概念。Cyborg是神經控制裝置（cyberneticdevice）與有機體（organism）的混寫，科學家希望通過向人體移植輔助的神經控制裝置，以增強適應外太空的能力。作為能夠自我調節的人機結合系統，賽博格既擁有機器運作精確、壽命長久的優點，也具備人類的特質，比如感情和理性。至此，人和機器這兩個原本對立的概念，終於共存於賽博格這一生命體中。不過，在科學界提出該設想前，文學界的相關創作早已展開。

英國作家奧德爾（Edwin Odle）的《發條人》（1923）可以視作最早的賽博格題材作品。小說描述在人腦中植入時鐘發條，用以控制整個人的言行。作者意在批判世人對技術的盲目崇拜和濫用。有鑒於此，後世作家大多繞開對人腦的改造，而集中描寫身體的機械化，塑造出一系列正面的賽博格形象。相對於純鋼鐵架構的傳統機器人，人機合體的賽博格形態更容易被接納為「人」。不過，賽博格作為一個比較學術化的詞，在誕生之後很長時間並沒有被大眾所了解，直到20世紀70年代，美國文學界湧現了一批以賽博格為主角的科幻小說，該詞才廣為大眾熟知。代表作品有羅維克（DavidRorvik）的《當人成為機器時》（1971），波爾（Frederik Pohl）的《升級人》(1976)。這些作品大多描寫人的軀體被機械化改造，以完成太空開發等特殊任務。該類小說連同隨後的影視改編，在世界範圍產生了廣泛影響。

一種觀點認為，賽博格必須保留人體關鍵的神經系統，比如大腦和脊髓，否則就屬於傳統意義上機器人的範疇。如上文所述，就目前而言，人類很難將傳統的機器人接納為「人」，即便其無論在外形，還是在思維方式上，都和人類並無二致。嚴格來說，阿西莫夫《兩百歲的人》中的安德魯，恰恰是因為使用有機神經耗盡了電子腦，才以死亡的代價換來了賽博格身份。筆者以為，如果說賽博格反映了人類的逐漸機械化，那麼人工智慧則從反方向體現了機器的逐漸「人化」，而雙方的發展軌跡最終會碰撞在一個根本的哲學問題上，即「何為人？」到那時，人類和人工智慧的界限將更難以劃分。

其實，隨著科技的發展和時代的演變，關於「人」的定義也是不斷轉變的。古希臘文學中的斯芬克斯之謎，實際上是一個如何區分人與獸的哲學命題，隱喻人類文明進程的開始。而科幻文學對於人工智慧倫理的一再探討，則暗示了傳統意義上的「人」逐漸死亡，宣告著後人類時代的即將來臨。

從哲學角度看，作為一種知識和概念的「人」是有始有終的。法國哲學家米歇爾·福柯在《詞與物：人文科學考古學》（1966）中提出了「人之死」的觀點，這裡的人是指人文科學意義上的人，即有關人的觀念和學說。[4]按照福柯的分析，「人之死」是以康德的人類學為基礎的哲學的消失，是19世紀以來以人為中心的現代知識形態的消失。儘管福柯沒有明確指出將會出現何種新的知識形態，但舊有的肯定不再被奉作金科玉律，這其中當然包括人類中心主義倫理學。與福柯同時代的哲學家讓-弗朗索瓦·利奧塔，也針對這一問題提出了自己的思考。他執著於「無軀體能否思維」的探索，並最終從時間的恆久流溢性角度給出了肯定回答。[5]

1982年，美國《時代》周刊把計算機選為「年度人物」，戲劇性地向全世界宣告後人類時代的到來。作為一種理論思潮，後人類主義（Post-humanism）形成和發展於20世紀80年代。面對人體不斷被高科技改造的潮流，不少人相信自然的進化最終將讓位於人工進化，進而出現在體能、智力、壽命等各方面都超越當今人類的「後人類」。該理論的代表人物是唐納·哈拉維，其發表於1985 年的《賽博格宣言》可謂綱領性文件。哈拉維認為高科技文化對既存的二元論思考提出了挑戰。作為「社會現實和小說的共同創造」，賽博格是一個打破自我和他者界限的合體，是介於人與機器之間的一種「後人類」。[6]1992年，歐美國家舉辦了一系列名為「後人類」的展覽。在配合展覽出版的《後人類》一書中，作者強調科技進步「挑戰了舊人類的終結，以及後人類開始的界線」，「達爾文的人類進化論也將進入下一個階段」，[7]顯然，在後人類主義看來，當今人類只是從猿進化到後人類的一個過渡階段。但關於後人類的具體形態，因其充滿著各種雜糅、跨界的可能，目前沒有人能給出準確的預測。

▍中國話語

梳理完西方文學中的人工智慧倫理，我們再來分析中國文學中的人工智慧故事。

在中國古代，涉及人工智慧的文獻記載不少。據不完全統計，約有三十多種，譬如《列子》、《西京雜記》、《傅子》、《歧海瑣談集》、《古今圖書集成》等。[8]最早的記載見於《列子·湯問》中的「偃師造人」故事。雖然出自介紹民間方術的集子，但其本身卻完全可以視為技術類幻想小說，影響也頗為廣泛。偃師造出的人偶和人類的外貌酷肖，周穆王一開始還以為是偃師的隨行之人。人偶的下巴被掰動則能夠曼聲而歌，調動手臂便會搖擺起舞，表演完畢後，還向周穆王的寵姬拋媚眼。這一輕佻行為激怒了周穆王，他認定人偶為真人假扮，下令處決偃師。偃師為證清白，現場將人偶拆解，展示其由皮革、木頭、膠漆組成。這些沒有生命的部件一經組合，便成了活生生的人偶。很明顯，在這一故事中，人偶是被大家普遍接受的，盛怒後的周穆王也不再對重新組裝的人偶懷有敵意。

細細梳理，中國古代文獻中的人工智慧外部形態較為粗糙，功用也較為簡單：或用於殺傷敵人，或用於捕捉野獸，更多的則是用於歌舞表演，如完成擊鼓、吹簫等動作。唐朝《樂府雜錄》記載：劉邦北擊匈奴，卻被冒頓單于困於白登，後依陳平施「美人計」，讓美女人偶在城樓上歌舞獻藝。匈奴閼氏擔心漢人美女會與自己爭寵，便力勸單于撤了兵。《大業拾遺記》中則虛構了隋朝皇室當時的歌舞盛況：兩百名人偶共同演出的場面。筆者發現，這些文獻記載中的人工智慧絕大多數是以木材為主要製作原料，以彈撥力或水力驅動，其外形雖類似人類，但在容貌和心智方面還是和人類有很大差距的。程式簡單的它們，一般被視作精巧的器具，其所能從事的工作也大多是固定的。與技藝高超的人類製造者相比，人工智慧還是相當笨拙的。因此，人們並不擔心人工智慧會媲美或超越人類的智慧，更不會威脅人類的生存。

實事求是地講，古代中國文獻對人工智慧奴僕地位的描述，和同時期的西方文學是大體一致的。在一定程度上，由於當時中國科技的相對發達，中文典籍里的人工智慧出現頻率和出場規模，甚至比同時期的西方文獻還要顯著。但遺憾的是，中國文學對人工智慧倫理的探討卻並未發生「弗蘭肯斯坦」式的變革。在筆者看來，其原因應和中國傳統文化思維有著千絲萬縷的聯繫，主要代表則是陰陽五行學說，以及背後深嵌的萬物有靈潛意識。從現代哲學的角度來分析，陰陽可謂最原始的對立統一學說，五行（金、木、水、火、土）理論則是最基礎的系統論。長期以來，中國的古聖先哲能夠將世界萬物的形成及相互關係都納入五行理論來闡釋。毫不誇張地說，中國傳統思維的框架便是建基在陰陽與五行兩大學說的合流之上。在這一思維框架下，人們對神、仙、妖、魔、鬼、怪、精、靈等非人類族群的意象，給予了較多關注，甚至能夠接受將其納入人類的倫理框架。以傳統中國文學作品以及民間傳說中的「妖」形象為例，他們雖然能夠魅惑人心，將人引入歧途，但卻也有很多藝術形象代表著美和善，甚至比人類更懂得存善心、行善事。譬如《聊齋志異》里的《聶小倩》、《畫皮》（小唯），民間傳說中「白娘子」（《白蛇傳》）等。在這一傳統思維模式下，萬物皆可有靈，甚至能夠變成為人，專門針對人工智慧倫理問題的思考便很難出現。

近代以後，隨著西方科幻文學的傳入，中國科幻也開始逐漸關注人工智慧的倫理問題。不過，在大部分中文科幻小說里，對人工智慧的描述基本沿襲了古代傳統，它們或是工人，或是家僕，別具特色的作品較少。以銷售量空前絕後（三百萬冊）的《小靈通漫遊未來》（1978）為例，作品中的智能機器人大都由方塊組成的，頭上頂著兩支分岔的天線，高級一點的胸口則配有電視屏幕，靠此來接收人類的指令。很明顯，這部創作於20世紀60年代的作品，對人工智慧的設定和中國古代傳統是一致的，完全停留在服務人類的層面上，並未觸碰人機之間的倫理困局。在劉慈欣的《三體·死神永生》（2010）中，由三體人製作的機器人智子，外表和人類無異，智能甚至超過人類。作為三體人命令的忠實執行者，它不惜對地球人大開殺戒。在最終失去和三體世界的聯繫後，它完全自主操控，和人類倖存者建立起一種介於朋友、家僕和保護者的朦朧關係。因《三體》的敘述重點並非機器人倫理問題，其對人機關係的設定也便選擇了大眾所熟悉和最易接受的模式。其他中文科幻作品中的人工智慧，譬如倪匡《筆友》中的核彈控制電腦、鄭淵潔《活車》中的智慧汽車、柳文揚《星海迷蹤》中的納米螞蟻、鄭軍《生命之網》中的數字生命、星河《你形形色色的生活》中的機械監工或保姆、江波《機器之道》中的腦庫和智網等，基本都未脫離上文所論述的人工智慧倫理範疇。

在筆者看來，現代中文科幻作品對人工智慧倫理問題的思考，之所以無法成為像西方現代科幻中的重要題材之一，主要原因在於中西方作家對現代性問題的焦慮核心不同。按照美國學者梅泰·卡利內斯庫（MateiCalinescu，1934?2009）的觀點：「作為西方文明——科技進步、工業革命以及由資本主義引發的全面的經濟和社會變革這三者帶來的產物——歷史中一個階段的現代性，同作為美學概念的現代性之間，產生了無法彌合的分裂。」[9]其中有社會現代性和審美現代性兩個方面。近代以來，西方科幻文學多側重審美現代性，而中國科幻則更關注社會現代性。早在瑪麗·雪萊所處的時代，西方作家便開始反思現代科技給人類帶來的福禍參半處境，對未來的憂慮促使警示性的作品連綿不絕。相對而言，基於百年中國半殖民地、半封建社會的革命歷史，中國知識階層在現代化進程中，更多焦慮救亡圖存、國計民生等迫在眉睫的問題。中國作家對以堅船利炮、科技進步為形象展現的現代性圖景更多持正面態度，而非瑪麗·雪萊式的警惕與反思，「虛無縹緲」的人工智慧倫理問題自然得不到他們的重點關注。

20世紀的中文科幻對人工智慧倫理探討相對較深的作品當推魏雅華的《溫柔之鄉的夢》（1980）和王晉康的《生命之歌》（1995）。《溫柔之鄉的夢》描寫在未來社會，不符合優生標準的男性只能娶仿生人作為妻子。後者依照阿西莫夫的三定律設計，完全聽命於丈夫的指示。百依百順的嬌妻，甚至幫助醉酒的主人公燒掉自己的研究成果，造成無法彌補的巨大損失。痛定思痛的主人公最終醒悟，決心和仿生人妻子離婚。[10]表面看來，這部小說是對阿西莫夫三定律在現實生活中可行性的質疑。但筆者覺得，其更深層則是批判毫無約束下的男主人公不斷膨脹的人性黑洞。王晉康的探討比魏雅華更深一步。中篇《生命之歌》里的機器人「元元」，外表是五歲的孩童，但心智卻隨著歲月流逝不斷發展成熟。在獲得能夠使自己邁入生命界線的法寶（由基因密碼組成的音樂）之後，他打算把這曲「生命之歌」輸入到全世界的機器人和電腦中，希望同類為爭取生存權而抗爭。故事的結尾，人類雖然用情感紐帶暫時約束了元元的「造反」行為，但卻無法迴避這一危機時刻終究要到來的困局。此外，在短篇《禿鷲與先知》中，王晉康描寫一個清潔工機器人偶然間萌發了生存本能，像禿鷲一樣靠盜取其他待報廢機器人的能量來延續自己的「壽命」，當它被人類公開處決後，反而成為機器人的「先知」，引發了一場機器人革命。王晉康試圖通過這兩則故事告訴人們，高科技背景下的人工智慧並不一定威脅現有的倫理模式，只有當它們擁有強烈的生存本能之後，才會打破三定律的平衡，甚至為了自身的生存而反噬人類。當然，提出問題的王晉康並沒有給出完美的解決方案。

令人欣慰的是，進入21世紀，年輕的中文科幻作家對機器人問題有著持續而進一步的思考，其中的代表作有陳楸帆的《荒潮》（2013）、飛氘的《講故事的機器人》（2005）和《愛吹牛的機器人》（2014）等。陳楸帆描述了近未來（2025年左右）的人機融合圖景，其中的「垃圾人」少女小米作為一種典型的賽博格形態，折射出「攻殼機動隊」的影子。飛氘則將時空模糊化處理，敘述機器人在思維和情感問題上的逐漸「人性化」演變。王晉康的長篇新作《類人》（2003）則描寫了由全世界數百億台電腦聯接組成的「電腦上帝」，在不讓人類覺察的情況下，扮演著救世主的角色。與全知全能的主控電腦相比，人類則顯得渺小而孱弱。此類作品目前雖然不多，但卻預示著中文科幻對機器人倫理的探討將會有著更深入的發展空間。

就目前的科技和人類認知水平而言，作為新興學科，人工智慧倫理涉及學科交叉、文化匯融和意識衝撞等諸多範疇，並且隨著科技發展和時代進步，許多剛剛建構的倫理模型會很快被推翻。基於此，筆者並不試圖建構一種穩固的倫理框架，而是呼籲突破傳統「物我兩分」的認知觀念，將人類自我進化和人工智慧升級放到統一的維度去審視。這樣，對人工智慧倫理的思考就不再是二元關係的難解困局，而是人類如何面對自身進化的深刻哲思。如果我們不摒棄傳統的「人類中心主義」價值觀，以及「主奴二元對立」的認識論，積極建構「後人類」視域下的人工智慧倫理關係，也許筆者在開篇所設想的悲觀未來就將很可能成為現實。

注釋：

[1]1956年，由約翰·麥卡錫和馬文明·斯基發起，在達特茅斯學院舉行的一次關於人工智慧科學的會議。是人工智慧誕生的標誌性會議。

[2]第一部關於蒸汽動力人的小說出版於1868年，書名為The Huge Hunter, or the Steam Man of thePrairies。第一部關於電人的小說出版於1885年，書名為The Electric Man, or, Frank Reade, Jr. inAustralia。

[3]亞里士多德：《尼各馬可倫理學》，苗力田譯，中國人民大學出版社1994年版，第180頁。

[4]福柯：《詞與物：人文科學考古學》，莫偉民譯，三聯書店2002年版，第505?506頁。

[5]讓-弗朗索瓦·利奧塔：《非人：時間漫談》，羅國祥譯，商務印書館2001年版，第8-24頁。

[6]Donna Haraway, 「A Manifeso for Cyborgs: Science, Technology, andSocialist Feminism in the 1980s」, Socialist Review, vol.80(1985).

[7]Jeffrey Deitch,Post Human,DAP, 1992, p.15.

[8]陸敬嚴：《中國古代機器人》，載《同濟大學學報》（社會科學版）1998年第1期。

[9]梅泰·卡利內斯庫：《兩種現代性》，載《南京大學學報》1999年第3期。

[10]探討類似婚姻關係的作品還有台灣張曉風的《潘度娜》（1968），只不過女主人公是由類似克隆的細胞工程培育而成，作為純生物體的她並不屬於機器人範疇。

傾力推薦

文化

縱橫

文化重建價值重生