科幻作家：我們都高估了人工智慧對人類的威脅

自從中國圍棋輸給阿爾法狗以來，對人工智慧的恐懼，又一次成為全民議題。甚至在達沃斯夏季論壇上，AI也是最時髦的話題。人工智慧將使哪些行業消失？人工智慧對未來經濟增長有何助益或威脅？人工智慧會不會有情感？

企業家們說，人類要和機器合作才有未來；經濟學家在爭論人工智慧是否有泡沫，最近大熱的電影《異形》里，機器人已經埋下了滅亡人類的火種。但對人工智慧的未來，還有一種聲音，來自科幻作家。

近期，作家永城的科幻小說《復甦人》在各地舉辦了多場簽書活動。作為曾經的清華畢業生、斯坦福工程碩士、機器人工程師，永城之前的作品並不「理工」，而是主打懸疑，這部《復甦人》，是他第一次接觸科幻題材。

小說《復甦人》的故事，發生在500年後的世界：「那個時代，人類沒有私產，禁絕私情；沒有親朋，也沒有仇敵；因而從根本上消除了犯罪動機。科技和醫療的發展使得人類基因和思想都達到高度優化和統一。幾個來自不同時代的冬眠人在2525年同時復甦，並捲入一場社會動蕩。」

作為一個「在全球最先進的人工智慧實驗室里養了兩年蟑螂」的人工智慧專業人士，永城對於人工智慧的未來，卻有著與大眾最害怕的東西並不一致的看法。

以下為訪問摘錄：

一、500年後，一個完美人類世界的樣本

問：這個故事的走向，是開寫的時候就想好的，還是在寫的過程中慢慢形成的的？

永城：我起筆的時候，只對一個人的結局是有想法的，就是男主角秦朝陽。我知道這個人要跟他妻子一起被冰凍。我也想清楚了一個結果，就是故事結尾的時候，他們兩個人一定還會和開頭一樣再被冰凍。這個創意的源頭，是因為我看到在重慶有一個女作家把自己給冰凍了（註：2015年，重慶著名女作家杜虹選擇將遺體經「人體冷凍」後放入美國最大的人體冷凍機構之一的Alcor）。看了那個新聞，我當時就有一個很強烈的想法，未來可能會有越來越多的人把自己給凍了，不管能不能醒來，但已經有這種服務了，你花錢可以買……

問：其實《三體》里也有冰凍的情節，不知道你看到過沒有？

永城：我看過《三體》。《三體》裡面更明確。《三體》里的冰凍不是自殺，但是在我這個小說里，主人公沒有一個人認為自己會醒來，其實你是另外一種更華麗的自殺。我覺得特別值得敘述的是， 500年後的社會跟現在肯定不一樣，如果有朝一日有這個技術，能夠讓這些年所有冰凍的人都醒來的話，這些人能跟未來世界融洽相處嗎？當然不是，肯定會有一個衝突的，就好比說我們現在讓很多的500年前的人醒來，他們能進入的了我們這個社會嗎？進入不了。他不管是在行為上、意識上、思想上肯定會跟我們有嚴重衝突的。

《三體》

劉慈欣

重慶出版社

2016

問：實際上這個就像是一種反穿越？

永城：對，因為我們回到500年前，我們是帶著優越感的。什麼是優越感？就是我們已經很聰明了，我們知道這些東西，我們也知道你們會變成什麼樣。所以我是帶著這種優越感回去，一個上帝降臨了一樣。但是我要穿到未來去，我是那個白痴，我不是上帝，我到了一個我什麼都不知道的環境，裡面的每一個人都比我要高級，都是我的上帝。我覺得這種感覺是更恐怖的。這是很嚴重的恐懼感。所以我就覺得是有意思的一個事情。因為我是現代人，我不是500年後的人，我沒法用500年後的人的思維寫東西，我只是能用現代人的思維寫東西，那我就用現代人的思想到500年後去冒險，去經歷那個時代。如果未來的人用某些陰謀來對付我，我有沒有辦法去自救？有沒有辦法解脫？

因為我寫這本小說的時候，就是因為我覺得我有好多話要講，我之前寫的所有的這種商戰小說或者是懸疑小說，它都不能夠讓我有這麼多的空間去講話，就是讓我發表得未來、對人類的看法或者對人性的看法，都沒有機會，現在這個小說就給我這個機會。

問：你暢想了一個500年後的社會，但有意思是的，在未來這個社會裡，機器並沒有佔據統治地位，但是人類被異化了，失去了很多生而為人的一些特質。這樣一個結果，是推理的結果，還是完全暢想的結果？

永城：我不覺得是暢想的結果，這是一種推理，但是並不是一個特別嚴格、嚴密的推理。為什麼這麼說呢？就是在你數學界或者說理工科做推理的時候都是這樣的，你假設一個前提條件，用這個前提條件把其他所有的相關條件都排除掉，就這一種條件推理到底可能是會是什麼，這是一種結果。然後你把每一個條件單獨拿出來，看它最後會是什麼結果，把所有的這些結果都放在一起再去分析。而不是說我在推理的時候就把所有條件都加上，那樣就沒法推理可能走不下去了。我的這種推理是有一個基礎的，就是有一個現代、當前的客觀基礎的。這個客觀基礎，是建築在我們當前的世界定義的所謂的價值觀、所謂的正義，所謂的正確，或者說政治正確。

按照現在「正確」作為一個推理基礎，再設想當我們能夠完全實現這些「正確」以後會怎麼樣，就是這是一個簡單的推理。我現在想討論的，其實是我們人類的這些所謂的美好理想，我們加給自己的美好的理想，是不是都會隱藏著什麼問題。

問：一些美好願望背後，會有不可知的陷阱？

永城：對，我們人類追求的正確，完全的平等，這與人的天性是否相關呢？外星人我們先不去提，地球上的規則從來都不是平等的，而是優勝劣汰，永遠都是優勝劣汰。你在原始叢林里獅子、老虎把弱小的動物吃掉，沒有人會說這是不公平的。所以現在我們社會對人類而言，我們想要的就是：我們都應該是平等的，不管你有什麼能力，不管你什麼出身，不管你聰明是笨，我們都是平等的，我們沒有人應該受到不公的待遇。

問：所以你在故事裡就把這個理想極端化了一下，所有人不但平等，而且同一化？

永城：我並不覺得這個極端化完全沒道理，我覺得當人完全平等以後這是下一步。我們知道人不能接受別人跟自己的意見不一樣，這是肯定的。很多人，當產生不同意見的時候，好朋友都可以撕，所以，你肯定希望別人跟你的看法是一致的。如果一致了，就沒矛盾了，好多的矛盾來自於我們對事情看法不同。而我們對事情的看法不同，是因為我們的背景不同，我們成長在不同的環境。如果你要是完全成長在一致的環境，你可能對事情的看法就是一致的，就沒什麼不同。

那未來的世界會怎麼樣呢，既然那麼發達了，那大家就可能會來自於同樣的環境。大家都知道某種基因最好了，為什麼不用最好的基因呢？為什麼會遺留那些會對身體有害的基因呢？

當你知道某種教育體系最好，你為什麼不使用他呢？到時候，可能全世界的教育體系都是一致的，每一個人從小生下來接受的信息是一樣的，那這種情況下，有什麼思想的分歧呢？其實，所謂「洗腦」一直是存在的，不管是什麼社會體系下……

問：在你的書里，能找到很多現實社會中的影子。

永城：對，因為這本書就是寫現在的。我創造巴土聯邦的時候，想像的就是當前的國際形勢的最核心的矛盾。因為最核心的矛盾無非是資源方面的矛盾。您聽到的所有的聲音，看到的所有的衝突，你看到的都是信仰上的區別，或者是價值觀上的區別、文明的衝突，在我認為最根本的核心的矛盾點，還是利益的問題，資源和利益。所有的人，想要籠絡人心去支持自己挑起衝突的時候，一定會披上一個價值觀的外衣，所以我才想把這個故事的核心線索放到能源上，一個叫做藍質的一個東西。

問：您的主角秦朝陽雖然是一個從事科研工作的人，而且對新能源的發現至關重要，但實際上他在整個故事裡並沒有一個非常重要的地位，這個是怎麼考慮的？

永城：這本書並不是一個硬科幻的小說。大部分的硬科幻小說會創造某種新的技術，讓這種新技術去誘發故事。我的小說，完全還是以人物命運的描述為主要推動力的。秦朝陽代表的只是一個普通人。普通人並不能操控這個世界，他只會被卷進去。

雖然他的決定影響了歷史進程，但他最後做的決定並不是一個英雄該做的決定，他從來也沒想去拯救人類。我覺得拯救人類不是普通人的責任和義務。在好萊塢電影里，總喜歡寫普通人到最後變成一個英雄，這樣的結構我也不是很認可。其實控制人類命運的這件事情，是遠遠高於某一個人的個體設計。人類的命運是更宏大的。

《復甦人》

永城 著

北京聯合出版公司·閱然

2017-4

二、人都不了解自己，怎麼去賦予機器人性？

問：你剛才提到，小說里的故事都是有現實基礎的，那麼你對現實的看法是怎麼樣的？你塑造了一個可以制止核威脅的能源，可惜這並不是現實，核威脅仍然高懸在地球之上。

永城：雖然這部小說看起來對未來世界不很樂觀，但是我個人對未來的世界還是比較樂觀的。我相信最近的100年，甚至是200年，任何的時刻，生活在那個時刻的都會認為世界是一個火藥桶。唯一的風險，就是這個火藥的等級在升高，那200年前可能就是鳥槍土炮，100年前變成了炸藥了，那現在就變成核武器了。但是武器升級的同時，人類也在改變，現在的理智應該比以前要強的多，或者說是理性。在很多年前，戰爭爆發比現在容易的多。

我所關心的，其實並不是說未來的社會發展成什麼樣，我更關心的是，人類作為人到底要不要獨立思考。我們的比所有別的動物都發達的，一定是我們的大腦，不是其他的任何的東西。那我們為什麼會有一個這麼發達的大腦？它絕對不是只是讓你坐在那兒聽別人說什麼，聽之任之，或者是聽人說什麼，就全盤接受。

人必須通過自己的觀察和思考，產生自己獨立的思想，這是作為一個人最重要的事情。

但是現在，絕大多數的人，普遍是缺乏獨立思考能力的。現在我們大家都有微信、都有朋友圈，你看到朋友圈裡所有人的表現，你就會意識到，大家首先都很情緒化，第二就是非常的不具備獨立思考的能力，往往是人云亦云的。我們的信息來的太快，太方便了，反而讓我們喪失了去獨立思考和發現的能力。

我在做商業調查分析師的時候，比如說我們要去了解一個企業家，就得一個個地採訪相關的人，但是現在呢？媒體發達了，有意見領袖，有大量的信息源，你坐在辦公室里一搜，可能就出現了很多關於他的文章。你就省事了，你就不出去打聽了。但你出來的報告是什麼樣子？有可能跟事實偏差很大，因為你沒有了第一手的體驗。你看了別人寫的東西，就把它搬過來當作事實，你這個調查可能就沒有價值了。

還有一種情況是，我只看我想看的，不看我不想看的，我也不聽我不想聽的。我們都只願意接受我們自己同意的那個觀點，並不想去接受我們不同意的觀點，甚至根本就沒有耐心去仔細看，這也是一種缺乏獨立思考的能力。

你在小的時候是沒有傾向的，你有很多的熱情想要看到更多的東西。當你成年了以後，年紀越來越大，你就懶得去找新鮮的東西了，你就只去找你熟悉的——你只去同樣的餐廳吃飯。其實這是人類的本性，你要把這個賴到大數據，你可以賴他，但是他只是縱容你。因為這是你自己的選擇。

問：那在您的故事裡，機器並不是控制人類，其實也是縱容人類？

永城：對，就是機器思考，這也其實是我寫這篇小說的時候特別想要講的一個概念。我們現在過度地誇大人工智慧，過度地誇大技術。人工智慧是什麼？其實是電腦程序。說到底，計算機執行的是什麼，計算機執行的是數學。我們學過電腦就知道，計算機做任何事情都是用數學來計算的。我們人的大腦是用數學來思考的嗎？當然不是。我們人的大腦要比數學發達的多，我們只是因為想要總結我們的思考方式，所以發明了一種東西叫數學。

電影《機械姬》里塑造的機器人

問：在前一段時間的人機大戰之後，柯潔輸給了Alphago，有人評論說，柯潔輸了會傷心，但Alphago贏了也不會高興。

永城：對，柯潔根本就不必要傷心。如果我是一個短跑健將，我是全世界跑的最快的人，我會因為跑不過汽車而哭嗎？柯潔下不過Aplhago，下不過就下不過了，它是機器。我們其實只是沒有真的認識到圍棋的本質——那其實還是數學。因為畢竟規則就在那兒，可能性就在那兒，你這個電腦計算這種東西的速度，永遠都比人快的多。

問：在《復甦人》里，機器的計算能力非常高，但是它仍然還是人的「奴隸」。

永城：對，因為它自己並沒有任何傾向，他也不會有傾向。但是人是退化了，退化的有點像機器了？為什麼？就是因為太誇大機器的能力，太崇拜機器了。我覺得對於我們現在的人類來說，這可能是一個風險。

問：很多科幻作品都創造過機器人會具有人性，然後可以控制人類。你覺得機器被賦予人性的可能性有多大？

永城：目前這種技術是沒有的，而且，人性是不可能通過計算去賦予的。

有沒有一天機器可能會產生人性？這個問題要看人類有沒有可能有一天真正解決「人是從哪兒來的」這個秘密。就是說，人必須要真正地解決自己的人性是從哪兒來的，怎麼產生的。當你解決了這個問題，你也許就有辦法設計出有人性的機器人。

但是現在，人自己都不能解釋，人自己不知道自己的慾望和感情是從哪兒來。

三、所有的審美都是人類繁殖本性的體現

問：在小說中，您創造的未來人類，為什麼會成為完全沒有顏值，沒有審美可言的「物種」？。

永城：首先你要看到審美的本質是什麼，我覺得這個很重要。好多我們認為美好的東西，它的本質是什麼，聽起來可能不那麼高大上，可能就是為了繁衍。

我們想要在山明水秀的環境里生活，這個也是一個審美，因為是為了人類的生存，因為這種環境往往更適合人類生存。比如說有陽光就適合人類生存，如果沒有陽光肯定不適合生存。所以我們看到陽光照在任何東西上，都會覺得美。

所謂人類的審美，本身還是為生存服務的。接近美的東西，遠離不美的東西，其實就是要讓你能更好地生存。包括顏控也是，所謂人長的好看不好看，其實是一個很簡陋、很粗俗的一個判斷方式。蒙娜麗莎的美麗，給人的感覺首先是很安全的。

問：有些審美層次很高的藝術品，比如畢加索的《格爾尼卡》，看上去可不安全。

永城：對，要不為什麼說畢加索是抽象派呢，為什麼它能成為新的藝術形態呢？是因為大家在突破自己，想要突破人性。所有的創新的東西都有想要突破人性的成分在那。文藝復興是充分地展示自由的這種人性。絕大多數的普通人，會遵從生物本性的審美，很難欣賞一些藝術的創新形式，也是人性。

四、中國學生的「聰明」與外國學生的「笨」

問：理工科的背景，對你寫小說有什麼幫助？

永城：任何小說必須邏輯是嚴謹的，故事是完整的，我覺得這個是最基本的要求，我覺得這個不完整，或者是不能自圓其說的話，起碼讀者的閱讀體驗是很差的。

大家老說邏輯邏輯，是很抽象的一個詞。我覺得說的最通俗易懂的邏輯就是因果，就是因為什麼導致什麼，這叫邏輯。你不講邏輯的時候，就只有果，無所謂什麼因，一個人可以突然長出一個翅膀就飛走了，你會問人為什麼會長翅膀，這就開始推敲邏輯。

問：這是文科生和理科生的區別嗎？

永城：文科和理科其實只是一種學科的劃分，我不覺得是邏輯上的衝突。因為最偉大的文科人士，比如宗教領袖精神領袖都是講邏輯的，沒有邏輯是不會有宗教的。

問：這幾天恰好是高考分數公布，在報志願的階段，報文科、報理科，又會出現很多難以選擇的情況。

永城：中國的文科教育在退化，它根本不讓你自由地去探討，不讓你去產生你自己的理論，這其實是破壞邏輯的。一個人如果缺乏了邏輯訓練之後，任何工作都很難從事。不只是工作，處理自己人生的所有的事情都是這樣。

問：中國學生考大學的時候，在選專業方面往往是從功利角度考慮的，比如好不好找工作，但聽說很多中國學生出國留學後都要轉行，這是一種真實的現象嗎？

永城：對，我們都是這樣，我們的教授都吃過這種虧。給你很多獎學金讓你來，最後發現學生根本不喜歡這個學科。

我是1993年到美國的，在美國的本科讀了兩年畢業，然後到斯坦福。那一屆的斯坦福有60個來自中國大陸的學生，全部都是有全額獎學金的。就是各種美國比較好的獎學金的，要不然沒有人能讀的起這種學校。1997年的時候，我們這60個人主要是來自三所學校，北大、清華和中科大，每一個學校都有10幾個，另外有一些別的學校，一個學校一兩個，就是這樣的組成成分。當時大家都在最頂尖的學科，大部分都是學理工的。現在大部分都沒在科學領域做研究，好多女孩子都在做家庭主婦，生了一堆孩子很開心。

我從來沒想當科學家，我很討厭科學，但是我們那個時候，很多美國的學生也沒獎學金，他可能還在辛苦地打工，為了進斯坦福也費了很大的力氣，但是現在他們都是美國的院士，或者頂尖大學的教授。其實他們蠻「笨」的，並不是傳統意義上的聰明人，至少不像我們中國學生那麼聰明，但是對他們做的事情特別有熱情，一直在那兒堅持。

問：你做了4年的人工智慧研究，為什麼捨得放棄？

永城：其實就是剛說的那個情況，我不太喜歡技術。其實上大學了以後，我就很痛恨機械製圖之類的事，不喜歡不代表我學不好，但是我就是不感興趣。美國這個社會最大的好處就是，沒有什麼東西是既定的，你有理想，就可以去試圖實現你的理想，你只要有興趣。理想不是要成名或者是要發財，理想是說我想要去干某一種事情，我就去干。比如說我喜歡騎自行車，我就去參加各種自行車的比賽，但是不代表說我要勝利或者是怎麼樣。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！