未來黑科技與人的存在性危機

微信ID:sanlianshutong

『生活需要讀書和新知』

圖靈測試可以說是人與人工智慧的博弈。一方面是應用人工智慧的方法使聊天機器人更能混淆視聽、更好地偽裝成人；另一方面是人想方設法地證明自己才是真實的人。這項博弈實際上也將一個古老的哲學命題又一次擺在人們的面前：怎樣定義人自身。

圖靈

圖靈測試引發的聯想

文 | 湯雙

2012年是圖靈（Alan Turing，1912—1954）誕生一百周年。為了紀念這位在第二次世界大戰中為盟軍戰勝納粹德國立下過汗馬功勞的傑出數學家、邏輯學家、計算機理論家、密碼分析家，圖靈一百周年紀念諮詢委員會提議將2012年命名為艾倫·圖靈年。全世界很多國家和地區都舉辦了各種形式的紀念活動。4月份，英國情報機構還特意解密了兩篇圖靈在「二戰」期間為破譯德軍密碼而寫的論文。這兩篇論文在70年後才得以面世，可見當年他的工作在英國情報機構中舉足輕重的地位和深遠的影響。

圖靈自幼與眾不同，從來就只對自己感興趣的學科下工夫，對不喜歡的課程則不聞不問，所以不受某些老師的青睞。不過他很早就顯露出在科學和數學方面的天賦。他沒學過初等微積分，卻無師自通，在15歲時就能用微積分解決問題。16歲時，他不僅讀懂了愛因斯坦的相對論，還引申出在書本中並未明確講述的愛因斯坦對牛頓運動定律的質疑。1931年至1934年他在劍橋大學國王學院學習，獲得數學一等榮譽，並1935年因為在畢業論文里展現出的才華而被選為國王學院院士（Fellow）。他在論文里獨立證明了統計學中極為重要的中心極限定理（他不知道該定理已於1922年被J. W. Lindeberg所證明）。

圖靈對人類的貢獻是多方面的，而且不少工作都具有獨創性和開拓性。比如他在博士論文中引入的序邏輯和預言機（用來研究決定性問題的抽象計算機）等，都是全新的概念。他在生物數學（尤其是在模式形成及形態發生的研究方面）領域中的工作也被認為是開創性的。圖靈最重大的成就無疑是在計算機領域，他對計算機理論、演算法理論和人工智慧的貢獻不僅是全方位的，而且是超時代的。尤其是他在1936年的一篇論文中提出的通用圖靈機（一種理論上的假想計算機，從而證實一定能構造出可以用來計算任意可計算問題的單一機器）可以說是現代計算機的奠基石，亦被不少人看作可存儲程序計算機的原型。即使是今天，在計算機科學的任何一個分支中，圖靈的影響都依然存在。這大概就是很多人把他尊為計算機科學和人工智慧之父的原因。

英國布萊切利園內的圖靈塑像

除了在學術上的諸多成就之外，在第二次世界大戰中，圖靈還是英國情報機關破譯德軍密碼的領軍人物。由他主導研發的破譯機Victory和Turingery（來自他的名字）在破譯工作中起了關鍵性的作用。他本人還直接領導了對德國海軍指揮部與德軍潛艇之間聯絡密碼的破譯。對德軍潛艇行蹤的掌握，使美國的援英物資能順利抵達英國，也保證了盟軍的諾曼底登陸作戰能如期進行。據估計，如果沒有圖靈的傑出貢獻，第二次世界大戰的結束也許會推遲一至二年。在某種程度上說，他拯救了英國和數百萬人的生命。所以在戰後甚至有人提議應該為他建一座雕像，和丘吉爾的雕像放在一起。

圖靈又是個十分不幸的人，悲劇源於他是個同性戀者。如果他只是一個默默無聞的小人物，在當時的社會環境里，雖然肯定會受到歧視，總還能苟活於世。不幸的是，他偏偏是個受矚目、有地位的知名人士。在20世紀50年代的英國，同性戀被認為是一種病態。他在1952年曾因此被警方逮捕，後來還被強制注射某種荷爾蒙。這使他的身心都受到極大的傷害，以至於最終選擇了自殺。圖靈在自殺時還不忘幽人們一默，刻意在毒藥瓶旁邊放了一個蘋果——在西方家喻戶曉的童話故事《白雪公主》里，毒藥與紅蘋果是聯繫在一起的。只可惜沒有什麼白馬王子能讓這位天才起死回生。

2014年上映的圖靈傳記電影《模仿遊戲》

1950年，為了試圖回答人工智慧研究中一個最根本的問題——機器是否能思維，圖靈建議進行一種實驗：由一組裁判利用計算機終端來提問，計算機分別與兩個看不見的答問者相連，其中一個是人，另一個是利用人工智慧設計的會話計算機程序——俗稱聊天機器人（Chatterbot）。裁判通過五分鐘的問答來投票判定哪個是真實的人，哪個是聊天機器人。圖靈曾經預言，到2000年，30%的裁判會被聊天機器人所矇騙從而做出錯誤的判斷。他認為果真如此「我們就可以毫無疑義地說，機器是可以思考的」。這就是著名的圖靈測試。圖靈測試每年舉辦一次，能騙過最多裁判的聊天機器人會被授予「最人類的計算機」獎，亦稱為婁布諾獎（Loebner Prize）。圖靈的預言並沒能實現，最接近的一次是在2008年，離30%只差一票。

說到婁布諾獎，它的共同創辦人、心理學家愛潑斯坦（Robert Epstein）還鬧過一個大笑話。愛潑斯坦在2007年通過一個約會網站結識了一位名叫伊萬娜的俄羅斯女士，不久之後他開始給她寫長信。伊萬娜也回長信給他，在信里講述她的日常生活、家庭狀況以及對他與日俱增的感情。直到4個月之後愛潑斯坦才發現伊萬娜竟然是一個聊天機器人！

圖靈測試模擬圖

每年的圖靈測試的結果，並不必然會隨著人工智慧的進步而逐年提高。比如2008年聊天機器人的得票數就遠遠高於2009年。這是因為作為聊天機器人對手的真人也會不斷提高自身回答問題的技巧，以使裁判們更容易辨認出他們才是真實的人。從這個角度看，圖靈測試可以說是人與人工智慧的博弈。一方面是應用人工智慧的方法使聊天機器人更能混淆視聽、更好地偽裝成人；另一方面是人想方設法地證明自己才是真實的人。這項博弈實際上也將一個古老的哲學命題又一次擺在人們的面前：怎樣定義人自身。

古希臘的哲學家們感興趣的是如何區分人與動植物。比如亞里士多德認為存在三種靈魂：第一種是「營養性」的，源於生物滋養和生長，為動植物與人所共有；第二種是「欲求性」的，源於運動，只為動物與人所有；第三種是「理性的」，為人所獨有。其最關鍵的特性是靈魂是行為的結果而不是行為的起因，也可以說亞里士多德是用行為上的能力來區分人和草、木、禽、獸。這與圖靈測試似乎有相通之處，圖靈提出的正是以機器的行為來判定它是否能思考。與亞里士多德不同，笛卡兒不但認為靈魂只有一種並僅為人所獨有，而且自我以至整個世界的存在不是取決於感覺、認知、體驗等等，而是取決于思維。從而有了那句名言：「我思故我在。」人工智慧對哲學的一項重大挑戰正是在這方面，如果有一天機器具有思維的能力，那到底如何定義人、如何定義自我？當然，思維的定義也許不像圖靈提出的那麼簡單，比如笛卡兒的「思」應該是更廣義的，不單單涵蓋邏輯思維和分析。但只要有明確的定義和標準，隨著科學技術的不斷發展，總是有可能實現的。計算機及人工智慧的出現，使哲學家們不但要區分人與動植物，還要區分人與越來越智能化的機器。

如果機器具有思維的能力，那麼如何定義人？

計算機的出現使我們不得不開始重新認識人類的特質。一些以前被認為是人類所獨有的能力，像邏輯推理、分類歸納恰恰成了計算機的強項。而有些本不為人特別重視的能力，像漫無邊際的閑聊和寫作這類需要一定想像力或創造性的行為卻是計算機望塵莫及的。這樣看來，人類對自身的定義也許不再能僅用一兩種能力來界定，而是需要一個綜合且多元的組合。

目前計算機常用的運算模式與人腦的思維模式還具有本質性的差異。計算機一般採用縱向的演算法（緣於圖靈機的構想），即一步接一步地算，就像我們平常算算術那樣。但人腦在大多數情況下並不是這樣工作的，比如在我們談話時，一句話的意思往往可能有多種解釋，很多情況下也不單單取決於前一句說的是什麼，而是取決於整個對話的過程以及談話的對象甚至環境。這大概既是聊天機器人為什麼一直無法通過圖靈測試的最根本原因，同時也是人工智慧的另一重要領域——機器翻譯所面對的難題。於是運算模式的變革開始逐漸受到計算機科學家們的關注。

其實在計算機剛剛起步的40年代就存在兩種不同的理念：形態導向、以統計為基礎的「模糊」 模式和演算法導向、以邏輯推理為基礎的「清晰」模式。七十多年來，後者一直占統治地位。但前者也並沒有完全銷聲匿跡，尤其在近二三十年，神經元網路和模擬計算都取得了長足的進展，並在應用方面有所突破。比如2006年的機器翻譯大賽的結果就曾讓所有的專家、學者都跌破眼鏡。那年翻譯的語言是阿拉伯文和中文，而比賽中獲勝的谷歌團隊裡面沒有一個人會這兩種語言！他們的辦法是讓計算機通過「閱讀」大量翻譯好的文件（主要是聯合國的文件）來學會翻譯。這與傳統上依靠字典加語法的方法有著本質的區別，它更接近人腦的思維模式。

「阿爾法狗」在與圍棋世界冠軍李世石的比賽中獲勝

人作為個體的存在性和定義不但受到來自人工智慧方面的挑戰，同時也受到來自生物學和醫學方面的挑戰。多年前，判定人的生死是以心跳是否停止為準。但如今心臟都可以移植，心跳與否自然不能再用來當準則，所以醫院目前是以腦死與否來判定生死。然而隨著基因研究的不斷深入，生物學和醫學的發展日新月異，很多過去不可思議的事都一件接一件地發生了，各種器官移植早已不是什麼新鮮事。特別是幹細胞研究的突飛猛進，在不久的將來實現自體器官的再生也不是不可能。這就產生了一個問題，當一個人身上的零部件全部換過一遍之後，他還是不是「他」？換句話說，我們到底如何定義自我。粗看起來，身上的什麼部件都可以換，但是腦子不能換。換了腦子，你就不是「你」，我也不是「我」了。這似乎意味著，除了大腦，我們身上的所有部件（器官、肢體等等）都僅屬於「我的」的範疇，唯獨大腦才真正屬於「我」。不過仔細分析起來，大腦不過是個信息存儲器，只有那些存在裡面的信息才真正定義了你、我、他。然而，存儲於大腦神經元里的信息與存儲於計算機里的信息並沒有什麼實質性的不同，所以從理論上講也是可以複製的。不妨設想有一天我們能將大腦里存儲的全部信息複製下來，存入一個應用未來基因工程技術製造出的空白大腦，這豈不意味著複製了一個人嗎？有一次我和我父親閑聊起這個話題（他是北京大學哲學系的教授），他認為即使真能做到了這一切，也並沒有真正複製出同一個人，因為人的思維是不停頓的，而複製信息是需要一定時間的。在複製的過程中，腦子裡的信息就又發生了變化，所以我們複製的僅是「過去」的全部信息，產生的是一個與某人在某一時刻具有相同思維「背景」的新人，而並非複製了那個人。我想我父親的說法大概是基於哲學上的自由意志論，信奉決定論的人未必會同意。從決定論的角度看，一個人在「下一刻」 的思維是由他腦子裡存在的信息與周邊的環境所決定的，如果在複製的過程中將環境的因素也一併考慮進去，還是有可能複製出同一個人的。照這個思路追索下去，好像越來越說不清了。

電視劇集《黑鏡》中出現的「記憶晶元」

不管怎麼說，如果有一天真的能複製人腦中的全部信息，人的存在性就不可避免地會發生嚴重的危機，更可能引發無法收拾的社會問題。

*文章節選自《三湯對話》（三聯書店2016年11月刊行）。文章版權所有，轉載請與微信後台聯繫。

《三湯對話》湯雙 著

生活·讀書·新知三聯書店 2016-11