人將迎來「審判日」，但不是宗教的

人類成為「神」的日子和「受審判」的日子可能會同時到來，而且不會太遙遠。——不過這說的並不指的宗教，而是人類面對超級人工智慧所產生的問題。

一些作家認為，人工智慧和生物科技，將賦予人強大的能力，甚至不死的生命。所以，他們認為人類將進化成「神」。

但我想更正其中的一個非常明顯的「偏見」。比如《未來簡史》作者尤瓦爾·赫拉利這樣說：「這裡所說的讓人類進化成神，指的是像希臘神話或印度教中的諸神那樣的神，而不是《聖經》里那天上全能的父。」［1］《人工智慧革命：超級智能時代的人類命運》作者卡魯姆 · 蔡斯也說：「這裡所說的神，不是基督教或者伊斯蘭教中那種無所不知、無所不能、無處不在的最高神靈，而是古希臘、古羅馬神話中的眾神。」［2］

固然，這兩位作家所說的，是一種可能。如果人類成功地改造自己，通過科技來進化自己，也有可能會產生這種結果。然而，這並不是對人類可能變成「神」的確切解釋。

人確實在通往成「神」的路上，但不一定是希臘神話中那樣的神，而恰恰是《聖經》中那樣的全能的神——造物（創造人工智慧這種新形勢的生命）並賦予人工智慧以道德秩序的立法。

什麼意思？其實就是，人類一面在創造人工智慧，一面在賦予它們道德律，就像《聖經》中「上帝」賦予人類道德律那樣。這樣說並不是無本之木，一部分超前思想的研究者目前在做的，恰恰就是這樣的事情，試圖通過賦予人工智慧一種有利於人類的道德秩序，來防止人工智慧危害人類自身，比如科幻作家阿西莫夫提出的著名的「三定律」。［3］據說生命未來研究所（Future of Life Institute，簡稱FLI）一直在呼籲並致力於促進人工智慧安全化的研究。

伊薩克·阿西莫夫（1920-1992），20世紀最有影響力的科幻作家之一

但這註定是一件非常艱難的事情。首先是因為人類自身的太多問題尚未解決，諸如各種「主義」相互衝突與鬥爭、個人的道德很難說在長足地進步，認知的局限難以突破、共識更難達成，只有欲求在不斷釋放，而且猶如洪流，使人慾罷不能。所以，人類似乎並沒有足夠的道德能力去做這件事。其次，即使人類可以不受這些局限的影響，用完美的人性來設計人工智慧，那麼，在超級人工智慧到來之前，能否有足夠的時間和技術能力來實現它，同樣是無法確定的，換句話就是：科技留給人類的時間，還夠多嗎？

於是，在這種情況下，人類自己的命運就會變得異常飄忽不定。人類似乎不經意間創造出了一個足以代替自己，甚至覆滅自己的強大生命。然而，這種創造可以說又是必然的，因為這一切都是人類追逐自身欲求的結果。直到這種欲求變得失控，人類也就對自身的人性失去了控制。而一旦另外一種強大的生命誕生，那麼，人類也將迎來一種「審判」，這本質上是人類欲求對人類自己進行的審判。

審判結果會怎樣？人類會付出怎樣的代價？目前，沒人能給出答案。

——————

注釋：

［1］ 《未來簡史》，中信出版社，41頁。

［2］《人工智慧革命：超級智能時代的人類命運》，機械工業出版社，123頁。

［3］ 1942年，阿西莫夫在短篇小說"Runaround"（《環舞》）中首次提出了三定律：一 機器人不得傷害人類，或因不作為使人類受到傷害；二 除非違背第一定律，機器人必須服從人類的命令；三 除非違背第一及第二定律，機器人必須保護自己。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！