人工智慧：啟蒙運動如何結束？

海外視點

人工智慧技術可能帶來的後果或許是人類無法估計的。人類的價值和思維體系有可能被人工智慧技術改變，而技術本身並不能解釋判斷背後的基本原理。美《大西洋月刊》2018年6月號刊發了美國著名外交家、前國務卿亨利·基辛格（Henry A. Kissinger）的文章「How the Enlightenment Ends」，從一位非科技人員的角度分析了人工智慧對人類世界的影響和隱憂。基辛格認為，人類社會無論從哲學領域還是智力層面，都還沒有對人工智慧的崛起做好準備。他就此呼籲，對人工智慧的研究應該上升到國家戰略層面。

原文 ：《人工智慧：啟蒙運動如何結束》

桑暘/編譯

圖片 |網路

翻開人類歷史新篇章

三年前一次跨大西洋會議上，演講者介紹了一個即將在圍棋比賽中挑戰國際冠軍的計算機程序。他堅持認為挑戰冠軍的技能將不可能被事先編程，而是要給予計算機最基本的學習能力，在和自身對弈的過程中不斷學習和改進策略。就在演講結束的幾個月後，一台名為「AlphaGo」的人工智慧計算機戰勝了世界圍棋冠軍。

自主學習機器對於人類歷史來說到底意味著什麼？這些機器是否會互相溝通？我們是否已經翻開了人類歷史的嶄新篇章？由於對這個領域中的技術知識並不熟習，本文將人文和技術並用，梳理了一些有關這個話題的非正式對話，這些討論更加深了隱憂。

迄今為止，影響現代歷史進程最大的技術革新仍是15世紀印刷機的發明。它使得對經驗知識的搜索成為可能，推動宗教時代轉向理性時代。個人的洞察力和科學知識取代信仰成為人類意識的主要標準，信息被存儲和系統化。理性時代塑造了當代世界秩序的思想和行動，但現在這一秩序在一場全新並更徹底的技術革命之中發生轉變。它的後果我們沒有完全想到，它的終點可能是一個不受倫理或哲學規範影響的，依賴於數據和演算法驅動的機器世界。

如今我們已生活在互聯網時代，人工智慧時代就在眼前。啟蒙運動試圖將傳統真理交給解放和分析性的人類理性，而互聯網的目的是通過累積和操控不斷增加的數據來認可知識。個人主體數據化，數據逐漸成為統治者。互聯網用戶強調通過情境化或概念化其含義來檢索和收集信息，他們很少涉及歷史或哲學。提供與實際需要相關的直接信息是一個基本原則。在這個過程中，搜索引擎演算法獲得了預測個人偏好的能力，使演算法能夠對結果進行個性化處理，並將其提供給其他方用於政治或商業目的。真相變得相對，信息威脅要壓倒智慧。

互聯網技術對政治的影響尤其明顯。數字世界強調速度，它的動機准許激進超越深思熟慮，它的價值觀來源於小部分人的共識而不是內省。儘管取得了很多成就，它仍舊面臨著強制性壓倒便利性的風險。互聯網以及強大的計算能力促進了數據的積累和分析，人類認知出現了前所未有的可能性。其中最顯著的就是研發人工智慧項目，一種能夠通過複製人類思維過程來發明和解決複雜抽象問題的技術。這遠遠超出了人們所熟知的自動化。自動化在於方法，它通過合理化或機械化過程達到預計目標。相比之下，人工智慧則更關注結果，因為它通過不斷改進自身而達到最終效果，因而也可以說它並不穩定。人工智慧系統在操作過程中獲取並即時分析新數據，進而不斷變化，尋求改進。通過這個過程，人工智慧發展出一種過去被認為是人類保留的能力：對未來進行戰略性判斷。

人工智慧三大社會隱憂

人工智慧正試圖進入多個領域，從而實現所謂的「普遍智能」。在未來，越來越多的人類活動將由演算法驅動。但這些演算法只基於數據，並不能解釋數據背後的基本事實。矛盾在於隨著世界變得更加透明，這一技術卻越來越神秘。是什麼將這個新世界與我們所知的區別開來？我們將如何生活？我們將如何管理和改進人工智慧，或者至少防止發生人為傷害？

人工智慧將為包括醫學、能源和環境在內的眾多領域帶來非凡益處。但正因人工智慧是對尚未確定的未來作出判斷，其結果自然具備了不確定性。有三個方面值得特殊關注。

首先，人工智慧由於缺乏數據背景而誤解人類指示的可能性很大。一個著名案例是聊天機器人「Tay」。Tay被設計成一位19歲年輕女孩，但這台機器無法理解「友好」和「合理」語言的必要性，從而在回應過程中出現種族主義、性別歧視和其他煽動性語言特徵。技術領域的一些人員聲稱，這個實驗構思不佳、執行不力，但它表現出一個潛在的不明確性：人工智慧能在多大程度上理解指令上下文？什麼媒介可以約束其作出冒犯行為？我們能否在早期階段發現並糾正一個在期望框架之外的程序？

其次，在實現預期目標時，人工智慧可能會改變人類思維過程和價值。AlphaGo通過作出前所未有的戰略性舉措，擊敗世界圍棋冠軍。這些能力是否超出了人類所及？這種能力在將來是否能為人類所掌握？圍棋的目的不僅是輸贏，還體現了生活的種種戰略思考。而AlphaGo只知道一個目標，即「贏」。所以在比賽中，人工智慧改變了遊戲的性質和影響。這種一心一意堅持的特徵是否存在於所有人工智慧之中呢？其他一些正在開發的人工智慧項目試圖將其設計成人類「百事通」，除了一些諸如天氣預報等事實問題外，關於現實或生活意義的問題引發了更深層次的思考。我們是否希望孩子在將來通過演算法進行價值觀學習？我們是否應通過限制人工智慧對提問者的了解來保護隱私？如果是這樣，我們該如何實現這些目標？對於人類都無法達成一致的價值觀分歧，人工智慧是否能就此成為我們的仲裁者？

第三，人工智慧或許能達到預期目標，但無法解釋結論中的基本原理。在模式識別、大數據分析和博弈等領域，人工智慧已經超越人類。如果它繼續發展，可能很快就會超越人類賦予的優化功能，從而以自己的方式自我優化。到時候，人工智慧是否還能在人類理解的範圍內解釋其行為模式？人工智慧的決策是否會超越人類語言和理解？縱觀人類歷史，文明給予了人們認識世界的能力：中世紀是宗教，啟蒙運動中是理性，19世紀是歷史，20世紀是意識形態。時至今日，我們面臨的最重要問題則是：一旦人工智慧超越了人類自身的理解能力，人類意識將何去何從？人類社會將不再能夠在這個世界找到它存在的意義。

在國家戰略層面思考對策

如何在機器世界中定義意識？誰會對人工智慧的行為負責？怎樣的法律體系能夠約束超越人類自身能力的人工智慧行為？對於人類來說，各種比賽的目的並不是勝出，而是過程中體現的思考。而人工智慧在解決複雜問題的同時卻忽略了這一點，一味追求達到目的。我們在利用人工智慧的同時，似乎正在逐漸丟失人類認知的本質。

近期開發的「AlphaZero」程序在圍棋比賽短短几個小時的自我發揮中達到了人類1500年才能達到的技術水平。而它只是獲得了比賽基本規則而已，人類和人類的數據都不是它自我學習過程的一部分。如果AlphaZero能夠如此迅速地掌握這一能力，五年後的人工智慧又將達到何種程度？對人類認知又會產生怎樣的影響？倫理在這個過程中的作用又是什麼？

通常，這些是技術人員及相關領域科學家的問題。哲學家及其他人類學領域的專家因為缺乏對人工智慧科學機制的認識和理解，在這個問題上並無優勢。相比之下，科學界在推動探索其成就的技術可能性，而技術界則專註於更大規模的商業展望。這兩個領域均在推動發現的極限，而不是試圖領會它們。管理者只關心人工智慧在安全和智能領域的應用，忽略了它在人類生存狀況中會產生的變化。美國還沒有系統地探索人工智慧的全部範圍，研究它的含義。然而，從人工智慧與人文傳統的關聯角度來看，這項計劃應該被賦予高度的國家優先權。

人工智慧的開發人員應該嘗試回答一些上文列出的問題，並在他們的設計構建中加以完善。政府應該考慮成立一個智庫委員會來幫助制定國家願景。可以確定的是：如果我們不儘快開始思考這些問題，不久我們便會發現，一切已經太遲了。

文章原載於社會科學報第1617期第7版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！