AI 現階段瓶頸：人類不清楚怎麼讓機器做長時間尺度的決策

美國加州大學伯克利分校（UC Berkeley）計算機科學教授 Stuart Russell 被視為是人工智慧（AI）領域的大牛，負責帶領伯克利的人類兼容人工智慧中心（Center for Human-Compatible AI，CHAI），他與 Google 研究總監 Peter Norvig 合著的《人工智慧：一種現代方法》（Artificial Intelligence: A Modern Approach）被全球超過 1,300 所大學選擇為標準教科書。

他也是倡議發展友善及安全 AI 的先驅之一， 2015 年他撰寫了一系列公開信，呼籲全球科學家、工程師和技術專家制定關於 AI 研究的守則：堅持 AI 發展應基於社會利益，而不是一昧冒進打造強大的機器，其中最令人憂心的就是發展自主武器（autonomous weapons）。同年他也受邀在《特定常規武器公約》（Convention on Certain Conventional Weapons，CCW）大會上提供專家證詞。他認為：「 AI 及機器人界必須採取立場，就像物理學家在面對核武、化學家或生物學家在使用化學或病毒武器一樣.....什麼都不做，就等同是投下贊成發展的一票。」

DT 君採訪了這位在 AI 領域極具影響力的學者，儘管全球競相從各種角度或領域積極研發 AI 。他認為，目前發展的首要阻礙是人類還無法讓機器做到可以執行長時間尺度（long time scales）的決策。同時，發展人工智慧不該只想著經濟發展，因此由他領導的實驗室設定兩大發展主軸，分別是打造更好及安全的人工智慧。另外，他也分享了兩部在他心中值得一看、引人思考的 AI 電影。

圖丨美國加州大學伯克利分校（UC Berkeley）計算機科學教授 Stuart Russell。圖片來源：DT君

現今AI發展的阻礙？ 機器無法做長時間尺度的決策

人工智慧在經過兩輪的發展寒冬後，迎來了一波復興，過去受限於計算機運算能力及資源不足的問題，在今日已大幅突破，不論是 CPU 、 GPU 、以及其他運算系統架構 TPU 、 FPGA 等運用，加上終端設備的普及，帶動海量數據的搜集及累積，讓人工智慧與人類真實生活的距離大大拉近，看似百花齊放，但在目前的發展道路上依舊是面臨許多層次的挑戰。

Stuart Russell 直接點出他認為目前最主要的阻礙，就是「人類還不清楚怎麼讓 AI 機器做出長時間尺度的決策。這對我們來說很困難。 」

人類在某種程度上通過高級別的抽象思考（high levels of abstraction），過著我們每一日的生活，包括安排行程、制定計劃、做決定等。

舉例來說，當你準備出國旅行，腦子裡會產生一個大概的情境，從開始準備買機票，選擇時間、航空公司，抵達目的地後，想著是要搭地鐵還是計程車前往目的地......等等，人類會在腦中思索許多可能的步驟，但是，我們不需要真的每一個細節或步驟都得確認好才能出發。

高級別的抽象使得人類能夠制定計劃。一但要執行計劃，往往就是展開了數億個基本行動（primitive actions）。例如，參加一個會議可能需要數百萬個動作，想要規劃兩周的假期也許需要十億個步驟，所以在我們的日常生活里，大概執行了 20 萬億個基本行動。人類藉由高級別的抽象思考來達到目標。正因如此，問題也就來了，「我們不知道如何使機器做到這一點，不知道怎麼讓機器在初期就能展開這些抽象的思考。」他說。

DeepMind 開發的 AlphaGo 程序打敗了人類最厲害的棋王，引發了世界對於人工智慧的諸多想像，包括取代人類工作甚至是接管人類社會等憂慮。但 Stuart Russell 認為， AlphaGo 非常精通於電腦圍棋比賽，所有可觀察的就在那一塊板子上，相較於人生是簡單萬分，它多半思考接下來的 20~30 個步驟而已，而非對未來的 200 億步。

「沒有一個演算法能在夠快的時間內算出後續的 200 億個步驟，也就無法思考高級別的抽象。所以對於真實生活來說，這就是一個錯誤、愚笨的演算法。」

他近一步指出：我們必須了解，我們不知道如何打造一個跟人類一樣聰明或是更聰明的機器，有些人認為關鍵在於讓機器更大、跑得更快，就可以達到，但這不是一個好的解決方法，如果只一昧追求更快速，只會更快得到錯的結果。

如果機器真不聰明，為什麼還要擔心？ 不仿想想大猩猩

1980 年 UC Berkeley 哲學教授 John Searle 提出弱人工智慧（Weak AI）、以及強人工智慧（Strong AI）的分類，弱人工智慧是處理特定問題，機器只能模擬人類具有思維的行為表現，而不是真的懂得思考，可看成是人類的工具。強人工智慧則認為電腦可以能具有與人相同、甚至是超越人類程度的思考、感知、智慧等能力。

從目前人工智慧的應用來看，多是在特定領域、特定情境下可獲得相當好的成果，屬於「弱人工智慧」面向，象是 AlphaGo 之外，還有應用在商業分析、股市基金投資、或是協助醫生判讀X光片、核磁共振成像（MRI）等影像資料，加快診斷等。

一直有一派人相信人工智慧不會達到人類般的智慧，既然機器無法像人類聰明，為什麼還需要擔心可能引發的災難呢？面對這種看法， Stuart Russell 只用一句話就反駁：「氣候變遷會導致海水淹沒陸地，但要很久，為什麼我們要擔心呢？思考長期風險是必須的！」

確實，在 20 年前機器不太能理解語言、不太會辨識照片或影片中的物體，現在這些都已成為展示人工智慧的基本項目，還不用說它們可以翻譯語言、學習藝術家風格繪畫、甚至是編寫一首新歌、撰寫一首詩，現今演算法的極限在未來終有被克服的那一天。

當全球都在加大投資力度，無疑將促使 AI 快速進展，「如果社會希望 AI 創造的正面效益大於負面，那就必須做得正確。」回顧幾個重大的科技發展，最能引發感受的應該就是核能，核能的使用帶來了比較便宜的電力來源，污染性也相對較低，但若發展核子武器，則是那一體的第二面，另外，大量使用化石燃料造就了工業的興盛，另一面仍逃不了面對環境污染及氣候變遷。

因此，不少學者、企業家、組織都大聲疾呼正視 AI 發展可能引發的不良後果，例如任教於麻省理工學院的宇宙學與物理學家 Max Tegmark ，他是生命未來研究所（Future of Life Institute）的共同創辦人，並受 Tesla 創辦人 Elon Musk 資助研究人類未來可能遭遇來自 AI 的風險。另外，英國謝菲爾德大學（University of Sheffield ）機械人與人工智慧名譽教授 Noel Sharkey 也成立了負責任機器人基金會（Foundation for Responsible Robotics），致力於向政府及企業建言，開發科技時多考量對社會的影響。

同樣身為打造有益 AI 的倡議者， Stuart Russell 拋出了一個值得省思的問題：「千萬要思考，誰會領導AI，誰就能領導這個世界」，當人類積極打造科技，除了基於經濟的誘因，軍事恐怕也是其一。社會必須留心打造出比人類還聰明的 AI 所引發的後果，很可能會出現「大猩猩問題」（gorilla problem）。大猩猩向來以它們的智慧為人所知，有認知、有情感、會使用工具，但是，當更聰明的人類出現後，大猩猩已經失去控制權，而人類與 AI 呢？

實驗室關注的方向及計劃？ 有兩大路線

「所以創造比你自己更聰明的物種，也許不是一個好主意，那我們能做些什麼呢？ 其實沒什麼能做的，除了停止研究人工智慧。但身為人工智慧的研究者之一，我不同意就這麼止步。我想繼續做人工智慧。」這是 Stuart Russell 在今年 TED 演講上所說的一段話。

「所以，我的工作是研究人工智慧為什麼不聰明，並且解決它」。現在，他的實驗室致力兩件事，一是打造更好的 AI（making AI better），另一個是打造安全的 AI（making AI safe)。」

該如何打造更好的 AI 呢？第一項就是先前所論述——長時間尺度的分級決策問題，第二個是累積學習（cumulative learning）。他們研究長期決策（long term decision making）約 20 年的時間，除了希望建立起新的分級決策行為，另一個則是發展概率模型（probability model），這是一個觀察（observation）＋推論（inference）的系統。在觀察部分，是利用數學描述系統，在一個不確定的世界裡，電腦會將所有的可能性描述出來。在推論部分，則是透過學習＋認知＋決定，來找出答案。

另外，針對安全 AI 部分，就是去年成立的人類兼容人工智慧中心所努力的方向，防止長期發展 AI 所可能產生不可控制、負面的問題出現，確保聚焦 AI 對人類社會有益。

Stuart Russell 指出，他們要開發一個可證明有益人工智慧的方法（provably beneficial AI），並且基於三大原則，第一個原則是利他主義（Altruism），機器人唯一的目標就是用盡全力實現人類的目標。二是謙遜法則（A law of humility），機器知道它需要講人類價值最大化，但它不知道這價值究竟是什麼。三是機器人的工作是要了解更多人們的需求，讓它們觀察人類進而學習，也可以透過閱讀書籍、看電視等方式來達到。

心目中的好AI電影？

儘管 AI 已經成為了最熱的關鍵字，但不可諱言，真正了解的人仍相當有限，多數民眾的理解或想像是來自於電影或視頻，也衍生了許多烏托邦或是末日論的預測，身為 AI 專家， Stuart Russell 最喜歡的相關電影又是什麼？

他笑著說，可以分成兩部分來回答，如果是問哪部電影擁有最好的人工智慧？那就是由知名導演 Christopher Nolan 執導的《星際穿越》（Interstellar）莫屬，主要是基於兩個理由，因為戲裡頭的 AI 機器人完全只執行人類下達的指令，甚至會為了救援人類而犧牲自己，另一個很重要原因的就是它們長得不像人。的確，AI 機器人的發展之所以引起人類強烈情緒，其中一項關鍵就是人類由衷的恐懼機器變得太像人，例如 HBO 原創劇集《西部世界》（Westworld）或是《真實的人類》（Humans）里的機器人與人類外型如出一徹，讓人難以辨別身份，也令人感到毛骨悚然。至於最喜歡哪一部 AI 電影， Stuart Russell 選擇了《機械姬》（Ex Machina），至於原因，他賣了關子，希望請讀者自行觀賞體會！

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！