走出人工智慧前瞻研究的燈下黑「人工智慧與未來社會：趨勢、風險與挑戰」學術研討會之七

上海社會科學界聯合會主辦主管

GIF/64K

以學術為底色 以思想為旗幟

走出人工智慧前瞻研究的燈下黑

顧駿 | 上海大學社會學系教授

在討論人工智慧的時候，我們總是對人工智慧與人類智能做簡單比較。包括今天，我們仍然在爭論人工智慧有沒有價值觀，是不是能壓迫人。其實這些話題沒有意義，因為背後都是說人工智慧是一種擬人的智能。如果不擬人，二者是平行的或者互不相關的，人工智慧為什麼要有人的那些特性呢？這裡要談八個問題。

第一，宇宙進化會終結於人類嗎？我們都知道宇宙爆炸時是沒有人類的，走著走著人類來了。是不是宇宙就是兩個階段，一個前人類階段，一個人類階段？如果誰能夠證明宇宙就是兩個階段，那我們就不用去考慮人工智慧會不會取代人類。如果還存在著第三個階段——後人類階段，誰會成為人類的終結者？人類終結者，我算一算有三種可能，一種是自然災害，比如說小行星撞擊地球；第二種是人自作孽不可活，發生一場核大戰世界都沒了；還有一種可能就是被後來者驅趕。前兩種都不在今天的討論範圍內，我們就討論第三種，後來者應該具有哪一種能力或者屬性是人類最害怕的？我算來算去，現在比人力氣大的、跑的快的、看的遠的、聽的遠的、人看不見它都能看見的，這些能力早就有了，但還不足以顛覆人類，超越人類，唯一有一種可能，那就是智能。

第二，如果可能超越人類的是智能，那宇宙的智慧會以人類智能為終極形態嗎？說到底宇宙是有智慧的，我們人類本身就是宇宙產生的結果，宇宙產生了各種條件，讓我們這麼精妙的人得以產生。現在宇宙智慧是否到了人類智能，後面會不會有更高級的？

第三、更高級的形態是由人類創造的還是人類不斷進化而來的？如果是人類不斷進化而來的，那又是前面講的，宇宙是否就有兩個階段？要是有取代的話又會怎麼取代呢？會不會就是今天我們叫的AI來取代人類？如果真的是AI取代人類，以後人類許多解決不了的問題都解決了，比如說長命百歲的事情，機器比人類容易長命百歲。我們到別的星球去太遠了，人類壽命抗不住；我們想移居一個星球，人類去不了，那邊空氣也沒有，水份也沒有。機器人就沒有關係，所以我們面臨的很多人類無法克服的困難，機器人都能克服。如果後來者不是由自然直接進化而來的，是通過人類間接演化而來的，那就是說後來的時代就由人類這個時代變化過來，如果要變化過來的話，我們今天就是在創造條件，讓這個時代來得早一點。

第四，如果更高級的形態由人類創造而來，這個後來者與人類又是什麼關係？是人類創造的，那麼簡單歸結為人造物，還是人類的平行物或人類的超越物？過去我們搞那麼多的機器都是人類的創造物，因為機器自己沒有創造能力，可是如果有了創造力呢？我對AlphaGo的評價絕對不是說它贏了人，而是它有超越人類的計算能力，最後竟然發現了我們圍棋里的大漏洞，人類為什麼發現不了，因為我們計算能力不行，所以它是通過計算能力發現了人類發現不了的東西，這是可怕的地方，所以這樣的東西是人類的創造物還是人類的平行物、人類的超越物，這很難說。

第五，如果人工智慧是人類超越物，還能以人類為參照來衡量和要求嗎？我們今天對人工智慧的理解更有問題，好像一步一步走過來全是模擬人的，但是我們已經從符號主義的，用理性邏輯的方式來研究演算法，研究今天人類怎麼理性思考的，讓機器人去模擬，我們模擬人是怎麼來的。如果機器人也開始通過自我適應來進化的話，誰能控制進化的結果是什麼？這就是個大問題了。所以到這份上，人工智慧叫人工智慧就有點不妥當了，我們寧可把它叫做機器智能，或者在文章裡面直接叫無機智能。今天我們的智能都是有機智能，而我們用的AI是通過無機物形成的，如果無機智能真的形成的話，一定是超越了有機智能的。自我意識就是對自己在世界上短暫的覺悟，AI生命都沒有，所以打仗的時候比人勇敢，不會死就不存在怕死的問題。

第六，如果機器智能或者無機智能超越人類，那人類還能控制它嗎？其他力氣比人大的，速度比人快的還是被人控制。如果超過人了人拿什麼東西去控制它？法律管來管去就管兩種能力，一種是暴力，一種是狡詐，暴力就是你不能用槍支，狡詐就是你不能欺騙。

第七，如果控制不了，人類能去控制自己不去控制和開發機器智能嗎？我們立法規定哪些研究是不可能做的，實在要做的話就關起來，再不行的話就槍斃，但是今天科學家的好奇心控制得住嗎？企業家的利益心控制得住嗎？

第八，如果人類控制不了機器智能，也控制不了自己去開發機器智能，那人類的未來又當如何呢？我們看的是苗頭，今天的苗頭就是，人類在過去認為自己是萬物之靈的一點上已經被超越了，不要告訴自己人工智慧還很弱，它在很多方面已經超越人類，而且人工智慧相互之間能夠產生自己明白而人類不明白的語言，所以這樣的跡象如果還不足以引起我們的警覺，那這個未來就很難說了。我最後說，我這兒只有問題沒有答案，答案在每個人的內心之中，在人類的集體自覺之中，也在人類的宿命之中。

（本文為顧駿在2017年8月28日由上海市社聯《探索與爭鳴》雜誌社和華東政法大學政治學研究院共同主辦的「人工智慧與未來社會：趨勢、風險與挑戰」學術研討會上的主題發言，經本人整理，不代表本公眾號的立場。）

《探索與爭鳴》人間體

聯絡員小探

xiaotanxiaosuo

轉載 | 合作 | 諮詢 | 建議

長按掃碼加好友

END

人文社科學者的平台

《探索與爭鳴》

唯一官方微信平台

版權所有。歡迎個人轉發，媒體轉載請聯繫授權

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！