四季書評新春採訪之一：何光滬

1.在過去一年裡，有什麼書是讓你覺得耳目一新的？為什麼？

在過去一年裡，有一本書真的讓我覺得耳目一新，那就是《人工智慧革命——超級智能時代的人類命運》（【英】卡魯姆-蔡斯著，張堯然譯，機械工業出版社，2017年5月）。該書談的不是一般的問題，而是人類在近期可能會永生、也可能會滅絕的問題。那就是所謂「超級人工智慧」可能帶來的美妙前景或恐怖前景的問題。這是關係到全人類命運的問題。因為如果受益，受益者不是某一個國家、某一個群體、某一個階層、某一個黨派，而是所有人——例如手機這一人工智慧終端帶來的益處就是如此。如果受害，受害者也不是某一個民族、國家、階層、集團，而是全世界——例如，設想「超級人工智慧」侵入核武器控制系統並啟動核導彈的情況，那甚至會是包括動物界、植物界在內的整個地球生物界的大劫難！

之所以會如此，是因為按照多數專家的預測，「廣義人工智慧」或「強人工智慧」，即不是在某一或某些方面擁有（或超過）人工智慧，而是在所有方面擁有人類智能的「機器人」，會在本世紀下半葉（很大可能是在2075年）出現；在此之後，由於人工智慧或「電腦」處理速度方面的「摩爾定律」（即其處理速度以指數增長），所謂「超級人工智慧」會在幾年甚至幾個月之內出現，那時各方面的能力超過人類無數倍、能力還會飛速增長、可以自主決策，甚至可以複製能力更強的後代的「超級智能」，它們如果要控制或者毀滅全人類，確實會輕而易舉！

所以，包括斯蒂芬.霍金、比爾.蓋茨和埃隆.馬斯克在內的一些科技大腕和大企業家，都嚴肅地警告人類，必須考慮巨大災難的奉獻，未雨綢繆，有所收斂，甚至立法禁止某些研究。

當然，該書也指出了「廣義人工智慧」可能帶來的種種利益，特別是它同基因工程的結合，可能帶來人類「長生不死」的結果。為了產生更好的結果，避免壞的結果，書中提出了人類必須進入「友好人工智慧」階段，即必須保證「超級人工智慧」對人類友好。但是，作者清晰而冷峻地指出，超級人工智慧造成災難的可能性，明顯大於帶來福祉的可能性——畢竟，淪落為另一物種手中的萬物或「低等」的存在物，其他的「福祉」有何意義呢？例如，我們會羨慕不虞匱乏並坐享一切的寵物或動物園裡的動物們的生活嗎？

在讀此書後寫的「從宗教角度看人工智慧」中，我也作了一點反思：上帝造人並給人以自由，人類卻因想要「像上帝一樣」而接受誘惑、反叛上帝，因而受罰。現在，人又一次想要「像上帝一樣」，「按照自己的形象」造「機器人」或「電腦」，即把自己本性的一部分，把「心智」中的智（哲學家所謂的工具理性，即記憶、計算、推理、謀劃等能力）和創造新事物的能力（創造力）交給了機器，也許會面臨第二次的懲——不是被逐出伊甸園，而是被逐出地球？

因此，人類必須，首先是專家們——尤其是其後盾即大公司和政府——必須考慮，如何能夠將「心智」中的「心」（哲學家所謂價值理性或老百姓所謂良心）賦予人工智慧，如何能夠不讓人工智慧獲得「自由」即不受控地抉擇的能力。只有做到前一件事，才能確保人工智慧「對人友好」。只有做到後一件事，才能避免人工智慧「反叛人類」。這是兩件當務之急、但都是極端困難的事情——希望不是不可能的。

最後，有一件事也很困難，但因為取決於我們的意願而不是能力，所以似乎不是不可能，那就是，人類現在就開始約束自己——不要只貪圖人工智慧之利，而必須警惕其害，預防滅頂之災。

2.在過去一年裡，有什麼書是讓你覺得失望或糟糕的？為什麼？

我讀書很慢，時間很緊，又有點「完美主義」，不能忍受迴避事實或不合邏輯或文字拙劣的書籍。所以，如果我「覺得失望或糟糕」，那麼我看了一兩頁就會放下一本書，多半就不再記得是「什麼書」了。

不過還有兩點可論，一是去年，我還翻看了一本人工智慧方面的書，書名又是《人工智慧革命》，但副標題是《歷史、當下和未來》（王天一著，北京時代華文書局，2017年6月）。讀「前言」時我有點「覺得失望」，但是後來再往下讀，就覺得寫得相當好，覺得這本書雖然不像蔡斯寫得同名書（其實是被譯成那樣的，原名是Surviving AI: The Promise and Peril of Artificial Intelligence）那麼簡明、精鍊、集中，但是相當全面、深入、細緻，為讀者提供了許多知識。可見，最初的「覺得」也會不可靠！

二是現在國內這種出版環境，越來越多種類的書必須事先接受檢查，而檢查通過的標準越來越不可理喻，言論能否發表越來越多地取決於電腦中事先輸入的關鍵詞和「敏感詞」，這就必然導致中國這個「文化大國」出版的書會越來越多地讓人「覺得失望和糟糕」，甚至思想被機器控制，中文被大肆糟蹋——君不見網上充斥著不得不故意寫的錯字、別字、諧音詞、外來詞，等等？

3.你現在手頭在讀什麼書？閱讀的原因？

我現在主要不是在讀書，是在讀手機，讀朋友轉發的各類文章，其中也有書，比如說一位朋友最近寫的關於柏格里（Samuel Pollard）的小說。原因呢？上面說的第二點不無關係，也許對我來說是重要的原因，因為雜誌文章同書籍處於同樣的環境之中，必然會越來越多地讓人「覺得失望或糟糕」，甚至憤怒。實際上，這是眾多的、越來越多的讀者和作者共同的感受。當然就我個人而言，我因為讀書慢，深感自己接觸面太窄，常常自嘆「閉目塞聽」，現在真拜「人工智慧」之賜（儘管前面說了它不少壞話），可以大為容易地接觸眾多方面的信息，讀到許多話題的文章，眼界大大開闊了！

所以，又回到第一個話題：人工智慧真是天使，但願它們不會變成魔鬼！

4.在春節里，你會看什麼書？為什麼？

在春節里，我想再翻看一本厚厚的《從萬國公報到牛津共識——基督教與近代以來的社會思潮》（王文鋒著，方舟機構有限公司出版，2017年11月）。這是「基督教入溫（州）叢書」的一本，作者是「牛津共識」的發起人和組織者。

我對該書的推薦，是因為它「具有超出思想史的意義和價值。因為讀者從中可以看到中國最傑出的思想家和活動家，甚至從官場到民間，從哲學到政治各領域的領軍人物與基督教的關係，從而也就看到了中國社會各領域一個半世紀以來的變化發展與基督教的關係，由於有這種新的視角，還可以對中國思想、中國社會的發展有一種新的理解。」

作者王文鋒雖然與我在2010年才認識，可以說已是老友。他儘管當時才三十齣頭，卻以對信仰的熱誠，對中國社會的關心而令我欽佩…僅以他從一個新的重要角度搜羅了如此豐富的資料，從「雙向影響」的視角進行了爬梳整理，對這縱貫三個世紀的歷史的一個側面進行了翔實的描述而論，這本書已經值得我向讀者舉薦了。「我相信，不論是專業人士，還是一般讀者，只要是對中國社會最近一百七十多年的艱苦歷程真心關切的人，都會從這本書中獲益。」（見筆者為該書所作序言）

好，答問完畢，盼能對讀者有益！

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！