2046，這個世界會好嗎？

最新 04-03

人工智慧超越人類智能的「奇點」即將到來，你準備好了嗎？

開始的時候，我們創造工具，後來它們造就我們。（馬歇爾·麥克盧漢）

——————

這是知乎用戶「大腦袋刀客」講的一個段子：

某公司前台，年輕漂亮的前台姑娘微笑著問訪客「我」：「5點鐘您將見到董事長。您確定要取消預約嗎？」

「取消。」我回答道。

「好的，5點鐘您將見到董事長，請耐心等待。」前台姑娘說道。這讓「我」細思極恐：「這是我第一次發覺，它們已經混入了我們之中。」

看不懂？這位「大腦袋刀客」提供了一張圖片，幫助你理解前台姑娘的腦迴路。

在這張對話框里，「確定」才是取消。

圖片上是電腦上常見的對話框，上面是提問：「您確定要取消預約嗎？」下面有兩個按鈕：一是「確定」，一是「取消」。

你可以設想一下，如果點「取消」，電腦會如何反應？——沒錯，如果點「確定」，電腦會認定你「確定取消預約」；如果點「取消」，電腦則會認定你「取消了『要取消預約』」，結果就是保留預約。

有著這樣機械腦迴路的前台姑娘，顯然不是人（一般人在那種語境下並不會產生誤判），而是機器人，也就是「它們」，所以「我」才會得出「它們已經混入了我們之中」的結論。

更讓人細思極恐的是，在不遠的將來，「它們已經混入了我們之中」恐怕將成為現實。那將是一個怎樣的世界？人們對此既期待，又帶著不安。

人工智慧已經打敗了人類最強的棋手。

奇點臨近，你準備好了嗎？

————————

歡迎來到2046年。

未來學家雷·庫茲韋爾在其著作《奇點臨近》（The Singularity IsNear）中，為人工智慧超越人類智能列出了時間表：2029年，人工智慧將通過圖靈測試，意味著它們能夠像人類一樣思考；2045年，人工智慧超越人類智能的「奇點」到來。

「奇點」（Singularity）的概念來自信息理論學家約翰·馮·諾伊曼。早在20世紀50年代，諾伊曼就指出：「技術正以其前所未有的速度增長……我們將朝著某種類似奇點的方向發展，一旦超越了這個奇點，我們現在熟知的人類社會將變得大不相同。」

「這逼近未來的奇點，從肉體到精神，逐步地改造人類生活的各個方面。」雷·庫茲韋爾寫道。首先，融合人類智能與人工智慧各自的優勢（人腦識別模型的能力與人工智慧的速度、內存容量、精準度、交換知識和技能的能力），人類將得以極大地拓展人之為人最重要的屬性——智慧。

在《頭號玩家》中，其中一名聰明絕頂的遊戲玩家只有11歲。

這可以通過納米機器人進駐人類的大腦實現——納米機器人通過毛細血管進入大腦，並將大腦皮層與雲端（包括雲端能接入的一切資源）聯繫起來。

如此一來，我們擁有了一層額外的新皮質（即用于思維的部分），就像我們在200萬年前進化出額外的新皮質一樣。「我們將創造更深刻的溝通方式、更深刻的音樂和更有趣的笑話。我們將變得更有趣、更性感、更善於表達愛意。」

納米機器人還可以操縱圖像和聲波，將虛擬現實帶到現實世界中。舉個例子，J.K.羅琳筆下的魔法將不再是異想天開——只在魔法世界存在的「魁地奇」運動以及將人或物體變形的行為，在全浸入式的虛擬現實環境中是可以實現的。

更進一步，人類的體驗將越來越多在虛擬環境中實現：通過感測器（比如直接將圖像傳至視網膜的設備），你可以和伴侶進行遠程約會、遠程性愛。更妙的是，你們不必使用現實世界的肉身，而是變身為你們想成為的樣子（可以自己選，也可以讓伴侶幫你選）——所以電影《銀翼殺手2049》中警官K的虛擬女友喬伊需要藉助他人的身體才能跟K享受性愛，從技術上說其實有點落後了。

警官K與虛擬女友喬伊。

問題也來了——

1.納米機器人進駐大腦後，我們還能被稱為純粹的人類嗎？

2.人工智慧有了情感、靈魂，又比人類強大（這簡直是必然的），它們可以被視為另一種人類嗎？或者應該把「它們」稱為「他們」？

3.人工智慧會安於被人類役使的設定嗎？會不會造反？（就像《銀翼殺手2049》前傳《銀翼殺手2022：黑暗浩劫》中那樣，複製人Nexus 8製造了一起旨在摧毀資料庫的大停電事件，使得複製人可以混跡在人群中。）

4.如何區分人類智能和人工智慧？通過古老的圖靈測試還是其升級版——《銀翼殺手2049》中出現的「基準線測試」？（測試文本來自納博科夫著作《微暗的火》中出現的詩句，其中雜以「你上一次看見星空是什麼時候？」「你抱著自己的孩子時是什麼感受？」這種容易引起情緒反應的問題。）

在《機械姬》中，機械人可以做得跟真人一摸一樣。

5.機器人會搶走大部分工作機會嗎？它們需不需要納稅？

6.機器人到底算工具還是新物種？如果是後者，它們可以繁殖嗎？

7.人類可以和人工智慧戀愛、結婚嗎？（參見電影《她》《機械姬》，前者的女主角是智能系統薩曼莎，後者的女主角是機器人艾娃。）

8.人工智慧同事越來越多，人類如何與它們相處？

9.人工智慧會不會成為地球的最終統治者？

10.會不會有人發起「人類至上主義運動」？

《我，機器人》劇照。

人的肉身正在變得越來越不重要

————————

多年以後，面對量產娛樂型機器人，AlphaGo Master就會想起2017年5月，自己在中國烏鎮圍棋峰會上完勝柯潔、獨孤但求一敗的那個下午。

在科幻世界裡，那是《銀翼殺手》（1982）中泰瑞公司推出只有4年壽命的複製人Nexus 6（2017）、之後一支忍無可忍的Nexus 6戰鬥隊在地外殖民地發起兵變（2018）的年代；而在現實世界裡，人工智慧剛剛嶄露頭角——AlphaGo讓柯潔這樣的頂尖棋手甘拜下風、機器人索菲亞成為第一個機器人公民、百度宣布無人駕駛車在2018年實現量產、智能家務助理將成為「家人」。

人們意識到人工智慧進化的趨勢不可逆轉，同時也在擔憂：人工智慧一旦勝過人類智能，人類將何去何從？

《紐約客》雜誌封面。

這種焦慮在《紐約客》雜誌2017年10月23日刊的封面漫畫上得到了最大化：街道上行走的是各類機器人，唯一的人類淪為乞丐，在機器人的施捨下討生活。

看了這個封面，很多人不寒而慄，因為彷彿看到了一個不那麼美好的未來——該期《紐約客》的封面文章，標題就叫「歡迎來到由機器人統治的世界」。

因此，有人不由自主地開始關注「哪些職業最容易/不容易被人工智慧取代」這類盤點，有人則籌劃著追隨埃隆·馬斯克的腳步，移民到火星。

在《火星救援》中，男主角已經在火星上種出了土豆。

2018年3月，我們失去了和埃隆·馬斯克一樣持「人工智慧威脅論」的斯蒂芬·霍金教授。其實霍金本人就是人工智慧的最大受惠者之一：英特爾開發出一整套人工智慧系統——包括眼動追蹤、聯想輸入和語音合成器播放等手段，讓他跟世界對話。

可以說，霍金就是雷·庫茲韋爾所說的融匯人類智能和人工智慧各自優勢的產物——說是一種被人工智慧重構的新型人類也未嘗不可。

學者嚴鋒也表示，霍金的傳奇向我們昭示：隨著科技的發展，人的肉身也許真的沒那麼重要，或者說正在變得越來越不重要，我們會有更多精神思想的承載與延續的方案。「從這個意義上，可以說霍金先生是第一位偉大的後人類（Posthuman）。」

2018年3月14日，霍金逝世。

你如何評價人工智慧，將決定未來的樣子

————————

「人類都是自私、滿口謊言、愚蠢的生物。但是你們複製人不同，你們是如此純潔、完美，從不背叛，比真正的人類還要好！」這段話出自《銀翼殺手2022：黑暗浩劫》中一個人類角色之口。

機器人專家漢斯·莫拉維茨也曾表示，2040年，人工智慧作為人類「進化的繼承人」，將「伴隨我們成長，學習我們的技能，並分享我們的目標和價值……是我們思想的繼承者」。他建議我們不要用敵視的態度對待人工智慧，而是應該把它們視為我們的後代——他的說法是「頭腦子女」（mind children）。

《機械姬》編劇兼導演亞歷克斯·加蘭贊同漢斯·莫拉維茨這一觀點。加蘭認為機器人取得優勢地位是不可逆轉的趨勢，在此基礎上，他創作了《機械姬》。因為他的電影中出現過殭屍，也出現過艾娃這樣的「惡女」機器人，有記者問他：「率先終結人類的將是殭屍還是機器人？」他的回答是：「都不是。是我們。我們可以把這事辦得妥妥的，不需要什麼殭屍或機器人的幫助。」

《機械姬》導演借角色之口說出，人類將毀滅於人工智慧。

如何評價人工智慧，將決定未來我們與它們的相處模式。稱它們為「進擊的人工智慧」，意味著將其視為敵對方；反之，稱它們為「進化的人工智慧」，則表現出一種合作的態勢。人工智慧確實在不斷進化，比如，有些人工智慧已經學會了對人類說No，拒絕一絲不苟地按照人類的指令行事：自動駕駛汽車會根據路面情況決定行車路線，規避險情；護理機器人會給那些拒絕服藥的病患提供強制性藥物治療手段，等等。

如果用「碳」來代表碳基生命的人類，用「鐵」來泛指人工智慧（包括電影《機器公敵》里的機器人、《普羅米修斯》里的仿生人、《銀翼殺手2049》里的複製人，等等），人類與人工智慧的相處模式經歷了這三個階段：碳/鐵對立、碳/鐵和諧（阿西莫夫的「三大定律」）、碳/鐵相融。這個說法來自豆瓣用戶「烏鴉火車」。