現代機器人之父：預測 AI 的七宗致命罪狀：Rodney Brooks 特稿

羅德尼·布魯克斯（Rodney Brooks），斯坦福大學博士，美國著名機器人製造專家。包容體系結構的發明者，麻省理工學院計算機科學和人工智慧實驗室（CSAIL）的前任領導，同時還是美國人工智慧研究協會（AAAI）的創建者。20 世紀 90 年代設計了第一個火星機器人，他同時也是著名機器人公司 iRobot 和 Rethinks Robotics的創辦者，也被業界稱為「現代機器人之父」。

下文由 Rodney Brooks 撰寫，由 MIT Technology Review 在中國大陸地區

獨家授權發布

錯誤的推斷，有限的想像力，以及一些其他常見的錯誤，這些都使得我們無法有效地思考未來。

我們對於人工智慧和機器人技術的未來充滿了一種狂躁的臆想——幻想著它們將會變得多麼強大、多麼迅速以及它們將會對就業產生怎樣的影響。

最近，我在 MarketWatch 上面看了一個故事——在 10 至 20 年內機器人將會取代目前人類一半的工作——它甚至用到了一張圖表來描繪這個數字。

這樣的說法十分荒謬！（我試著去保持專業的語言，但有時……）舉個例子，這個故事似乎表明，在 10 至 20 年內，美國的路面維修工人將由一百萬人減少到五十萬人，因為機器人會接管這些工作。而目前又有多少機器人在這些崗位上呢？零。又有多少機器人在這個領域工作的實際案例呢？零。類似的道理同樣也適用於那些指出我們將會看到 90％的工作在未來逐漸消失的故事。

錯誤的預測會引發我們對那些不會發生的事情的恐懼，無論是對現有工作的大規模破壞，奇點或是人工智慧的出現，這些都與我們的價值觀相悖，並且可能會試圖毀滅我們。我們應該抵制這些錯誤。但是人類為何要犯下這些錯誤呢？我發現了以下七個常見的原因。

高估和低估

羅伊·阿瑪拉是未來研究所（the Institute for the Future）的聯合創始人。他最廣為人知的是他的格言——現在被稱為阿瑪拉定律：我們總是傾向於高估一項科技所帶來的短期效益，卻又低估它的長期影響。

這一個句子中包含了很多東西。樂天派可以從一方面解讀，而悲觀者則可以有不同的解讀。

美國的全球定位系統是解釋阿瑪拉定律兩個方面的一個很好的例子。自 1978 年起，有 24 顆衛星（目前包括備件有 31 顆）不斷地被放置在地球軌道上。全球定位系統目的是讓美國軍方精確地提供軍火。但是在 20 世紀 80 年代，這個項目多次面臨被取消。它的第一個實際用途是在 1991 年的塵暴中，美國軍方接受了它的作用，並取得了一些成功。

圖丨GPS衛星

如今 GPS 的用途是最初人們完全沒有意料到的，這符合阿瑪拉定律中的長期影響。我的第二代 Apple Watch 在我外出跑步時會使用 GPS，其記錄的定位精確到足夠分辨出我在沿著街道的哪一邊跑步。對於早期的 GPS 工程師來說，信號接收器的微小尺寸及價格會是難以理解的。

這項技術在全球範圍內同步進行物理實驗，並在同步美國電網和維持其運正常轉方面扮演著重要角色。它甚至允許那些真正控制股市的高頻交易員規避災難性的同步誤差。無論或大或小，我們所有的飛機都使用它來導航，並且它還被用來追蹤那些被假釋出獄的人。它決定了全球各個地區應該種植哪種種子。它可以監測車輛蹤跡並報告駕駛員狀況。

GPS 最開始只有一個目的，但如何讓它發揮除了預期目標之外的作用是一個艱巨的任務。如今 GPS 已經滲透到我們生活的方方面面，但如果我們失去了 GPS 我們不僅僅只是會迷路那麼簡單；我們還會感到寒冷，感到飢餓，甚至可能會死去。

近 30 年裡其它科技的發展也是類似的模式。起始人們抱有極大的希望，但逐漸開始失望，而後來對其取得的超出預期的成果慢慢產生信心。計演算法、全基因組測序、太陽能發電、風力發電、甚至是雜貨鋪送貨上門也同樣如此。

從 20 世紀 60 年代、80 年代，人工智慧被一次又一次的高估，而且我堅信今天亦是如此，但它的長期影響也同樣可能被低估了。問題是：長期的時間具體是多少？接下來的六個錯誤有助於解釋為什麼人工智慧的未來會被嚴重低估。

想像的魔力

當我十幾歲的時候，亞瑟·克拉克（Arthur C. Clarke）與羅伯特·海因萊因（Robert Heinlein）及艾薩克·阿西莫夫（Isaac Asimov）並稱為三大科幻小說作家。但克拉克同時還是一個發明家、科學作家和未來主義者。在 1962 到 1973 年間，他提出了三條格言，這後來被稱為克拉克三大定律：

如果一個年高德劭的傑出科學家說，某件事情是可能的，那他幾乎一定是正確的。但如果他說，某件事情是不可能的，那他很有可能是錯的。

要想弄清楚一件事是否可能，唯一的途徑是稍稍突破二者的分界線，冒險進入不可能的領域。

任何極其先進的技術都與魔法無異。

圖丨亞瑟·克拉克

個人來說，我認為應該提防第一定律中的第二句話，因為對於人工智慧將會以多快的速度崛起，我比其他人更加保守一些。但目前來說，我想就克拉克第三定律進行闡述。

想像一下，我們擁有一台時光機可以將艾薩克·牛頓從 17 世紀晚期傳送到今天，放在一個他熟悉的地方：劍橋大學三一學院教堂。

圖丨劍橋大學三一學院教堂

現在給牛頓展示一部蘋果手機。從你的口袋裡拿出一部 iPhone，解鎖它，這樣布滿了圖標了的屏幕就會發光，然後把它遞給牛頓。通過使用稜鏡將太陽光分解，揭示了白色光是如何由不同顏色的光組成的，然後將其重新組合起來的牛頓無疑會對這個在漆黑的小教堂發出了生動色彩的小玩意兒感到驚訝。現在播放一個關於英國鄉村場景的電影，還有一些他曾聽過的教會音樂。然後，給他展示一個有五百多頁他自己關於他的傑作原理注釋的網頁，教他如何使用縮放手勢來放大細節。

牛頓能解釋這個小設備是如何做到這一切的嗎？儘管他發明了微積分並解釋了光和重力，但他卻無法把化學從鍊金術中區別開來。所以我認為他會感到困惑，甚至無法回想起這個設備最開始的相關輪廓。這與他十分感興趣的超自然的體現沒有什麼區別，它和魔法是無法區分的。記住，牛頓是一個極其聰明的傢伙。

圖丨牛頓

如果一件事物是魔法，那我們就很難去發現它的局限性。假設我們進一步的向牛頓展示這個設備如何在黑暗中照明，它是如何拍攝照片錄製視頻及錄製聲音，如何將它用作一個放大鏡和鏡子。然後我們向他演示，這個設備如何用不可思議的速度進行算術運算並精確到多位小數。就在教堂里，我們指導他操作設備時應採取的詳細步驟，並告訴他可以用這個設備同世界上任何地方的人即時交流。

牛頓還能推測出這個設備的其他用途嗎？稜鏡無需能源就能永遠工作下去。他是否會推斷出 iPhone 會永遠工作下去，而忽略了它需要充電的情況呢？回想起來，我們在法拉第誕生 100 年前我們就抓來了他，所以他缺乏對電能的科學理解。既然 iPhone 在無需火的情況下就能成為光的來源，那麼它也許會將鉛轉化為黃金？

這就是我們想像未來科技時都會出現的問題。如果它距離我們如今擁有且能夠理解的科技足夠遙遠的話，我們就發現不了它的局限性。如果它變得和魔法無二，人們所說的關於它的一切都不再被證偽。

當我與人們爭論是否我們應該為通用人工智慧（即 AGI, 我們將建立像真實生物一樣運行的有著自主意識的實體）感到恐懼，我經常會遇到這樣的問題。我被告知，不了解通用人工智慧將會有多麼強大。這不僅僅只是一場爭論而已。

我們不知道是否它應該存在。我更希望它存在——這一直是我在機器人技術及人工智慧領域工作的動力。但如今通用人工智慧研究在普及和支撐實際存在的獨立實體方面做的並不好。

在至少 50 年內，人工智慧在推理及常識方面都會遇到同樣的問題。我所見到的證據都表明我們還沒有辦法去建立一個可以獨自思考的實體。它的屬性是完全未知的，所以它很快就會被形容為魔法，強大到沒有界限。

宇宙中沒有任何東西是沒有界限的。

注意關於未來科技的爭論，這是不可思議的。這樣的爭論永遠不會被駁倒，因為這是一個基於信仰的爭論，而不是基於科學。

表現 VS 能力

我們都使用人們如何完成某些特定任務的情況來評估他們完成一些不同任務的狀況。在一個外國城市裡，我們向街上的一位陌生人尋路，然後她滿懷信心的回答並指出似乎正確的方向，所以我們就認為當你想乘坐公交車時，也可以詢問她當地的付費系統。

現在假設有人告訴我們在給定的的照片中，人們在公園裡玩飛盤。我們很自然的就會認為這個人可以回答這樣的問題:飛盤長什麼樣子？一個人可以將飛盤扔多遠？飛盤能吃嗎？能有多少人同時玩飛盤？三個月大嬰兒能玩飛盤嗎？今天的天氣適合玩飛盤嗎？

那些可以給照片貼上「人們在公園玩飛盤」標籤的電腦並沒有能力回答這些問題。此外，事實就是電腦只能給更多的照片打上標籤而不能回答問題。人究竟是什麼，公園通常是露天的，人們有年齡之分，天氣不僅僅是照片中表示的那麼簡單等等，電腦對這些完全沒有概念。

這並不意味著這些系統是無用的，對搜索引擎而言它們有巨大的價值。但這樣問題來了：人們了解到一些機器人或者人工智慧系統完成了一些任務，然後就將它們的表現歸結於能力，即執行同樣任務的人可能會有的能力。並且他們將其泛化應用到機器人或人工智慧系統中。

如今，機器人和人工智慧系統能做的事情仍然十分有限。人類的歸納推理方式對它們並不適用。

行李箱辭彙

馬文·明斯基將有著很多意義的單詞叫做「行李箱辭彙」。學習就是一個強大的行李箱辭彙。它可以指代很多不同類型的經驗。學習使用筷子是一種不同於學習新歌曲的體驗。學著寫代碼更是與在城市裡認路完全不同的體驗。

圖丨人工智慧之父馬文·明斯基

當人們聽說機器學習在一些新領域取得了巨大進步時，他們總會趨向於使用同人們學習新事物一樣的心智模型。然而，機器學習卻非常脆弱，它需要大量的準備工作，包括研究人員或工程師，專用編碼，特殊訓練數據集以及各個領域的自定義學習結構。現如今的機器學習並不像人類從事的那種像海綿一樣的學習那樣，無需專門的設計就能在一個新領域取得快速進步。

類似的，當人們聽說計算機可以擊敗世界象棋冠軍（於 1997 年）或者世界上最好的圍棋選手之一（於 2016 年）時，他們趨向於認為機器可以像人類一樣「玩」遊戲。當然，在現實中這些程序完全不知道遊戲是什麼。它們的適應能力也比較弱。當人類在玩遊戲時，規則的小小改變並不會過多的影響他們。而對於 AlphaGo 或者 Deep Blue 則不是這樣。

行李箱辭彙在誤導人們說機器可以在人類能做的事情上做的多麼優秀。這在一定程度上是因為人工智慧研究人員——更糟糕的是, 他們的新聞工作室——總是急於闡述行李箱概念的進步實例。這裡的重點是「實例」。而這一細節很快就會消失。新聞標題大肆宣揚行李箱辭彙，而這扭曲了人們對於人工智慧在哪和它有多接近完成更多任務的廣泛認知。

指數增長

很多人正在深陷「指數主義」的窘境。

在半導體領域著名的摩爾定律似乎正在遭遇「失效」的危機，雖然在過去的 50 年的時間裡同等尺寸的集成電路上所容納的元器件在以每年翻一倍的速度增長，但近年來，這一速度已經延長到了兩年多的時間才能翻番，似乎預示著定律即將被終結。

圖丨戈登·摩爾

而之所以摩爾定律被高度重視，是因為晶元組件的指數增長意味著計算機運算速度的不斷提高、內存容量的不斷翻倍、數碼相機將會有更高的解析度，甚至液晶顯示屏的像素都會以指數級增長。

但摩爾定律也有其受限的適用條件，隨著晶元集成元器件越來越小，其已經逐漸逼近了物理的極限。此時此刻，科學家們不得不更換一條思路，於是，量子效應開始佔據了主導，伴隨著硅基晶元技術也開始流行開來。

不過，這也引起了人們的思考，當我們深陷「指數主義」的狂歡中時，可能會覺得這將會一直增長下去，但從現實來看，不論是摩爾定律還是其它的指數定律，似乎都將面臨瓦解的風險，究其原因，也許從一開始將它們定義為「指數」定律就是錯誤的。

就舉我自身的一個例子，在十多年前的時候，我負責麻省理工學院計算科學和人工智慧實驗室（CSAIL）的管理工作，當時我們手上有 90 多個不同的研究項目，需要大量的研究資金。而為了向我們的資助方證明摩爾定律的巨大潛力，我用當時剛推出的 iPod 為例來做以說明，下面就是歷年 iPod 內存的增長情況：

然後我會推斷出未來幾年，iPod 的存儲能力將會有多少。

根據我們的預計，一台價值 400 美元的 iPod 到今天將會有 16 萬 GB 的內存。但是今天頂級的 iPhone 的內存卻也只有 256 GB，不到 2007 年 iPod 的兩倍。

事實上，一旦設備的存儲能力大到足夠容納任何音樂、視頻或程序時，指數效應就會瞬間崩潰。而尤其是當存儲能力的增長受到物理限制或失去經濟價值的時候，摩爾定律這種指數增長也會難以為繼。

恰巧在這個時候，深度學習技術的飛躍促使 AI 系統性能的急劇增長，於是很多人認為「摩爾定律」的傳奇將在 AI 時代得以延續。不過，事實恐怕沒有那麼樂觀，深度學習技術已經被發展了 30 多年，它的成功僅僅是一個個例。

或許在未來會有許多類似深度學習這樣高增長技術的個例出現，當下火熱的人工智慧浪潮也使得大量相關的應用相繼湧現。但遺憾的是，並沒有證據表明這種現象將會成為一條定律而一直發揮作用。

好萊塢式情景

許多好萊塢科幻電影給我們的感覺是，未來的世界就像今天並沒有什麼不同，除了某些新的橋段。

在電影《Bicentennial Man》中有一個畫面是這樣的：由 Sam Neill 扮演的 Richard Martin 正坐著吃早餐，旁邊站著由 Robin Williams 扮演的人形機器人，當理查德在吃早餐時拿起報紙閱讀時，我們會發現，這份報紙仍是印在紙上的，不是平板電腦，也不是像亞馬遜 Echo 這樣與互聯網直接關聯的設備。

事實證明，許多 AI 研究人員和專家，特別是那些對 AI 失控和殺人充滿想像力的悲觀主義者，都忽略了一個事實——如果我們最終能夠開發出足夠智能的設備，那麼世界將發生很大變化，我們也不會突然對這種超級智慧體的存在感到驚訝。

隨著時間的推移，這些智能體將得到充分的技術發展，我們的世界將會充滿各種各樣的智能形態，我們會擁有大量如何和這些智能體相處和共存的經驗。

在邪惡的超智能體出現並希望擺脫人類控制之前，肯定有一批不那麼聰明和好戰的機器。也就是說，在邪惡智能體出現之前，我們首先會大量接觸那些脾氣暴躁、令人懊惱或者傲慢的機器。在這個過程中，我們會改變這個世界，同時調整新技術和新技術所處的環境。我不是說人類不會遇到挑戰。我是說，人類不會像大多數人想像的那樣，以突然和被動的姿態遭遇那些意外。

部署速度

在某些行業，軟體版本的更新非常頻繁。像 Facebook 這類軟體平台甚至每小時都會加入新的功能。對於很多新功能來說，只要通過了整合測試，哪怕在實際部署後出現問題需要撤回，也不會在經濟上造成什麼影響。這是一種矽谷的科技公司以及 Web 開發者們習以為常的方式，而且這種方式之所以行得通是因為部署訊版本軟體的邊際成本近乎為零。

然而部署新硬體的邊際成本就高得多了，其實我們在日常生活中就能感受到。比如我們現在購買的大部分汽車都不是自動駕駛車輛，也不是基於軟體控制的，這類傳統汽車甚至到 2040 年也會在路上行駛。這對自動駕駛車輛的普及無疑是一種限制。再比如，我們現在建一座房子，它 100 年後還會在那，我自己住的房子就建於 1904 年，而且這還不算最老的。

所以說即便有更高科技的替代方案，由於較多的資金投入，物理層面的硬體還是會有相對較長的使用周期。

現在美國空軍的 B-52H 還在繼續服役，它是 B-52 轟炸機的改進型。B-52H 於 1961 年加入美國空軍，這已經是 56 年前的事了。目前看來，這種機型會繼續服役到 2040 年，甚至有消息稱軍方想讓 B-52H 飛滿 100 年。

我經常能在全世界各地的工廠看見幾十年的老設備，甚至包括運行著發佈於 1990 年的 Windows 3.0 操作系統的舊電腦。大家的指導思想很簡單：「如果沒壞就不要動它。」這些計算機雖然老舊，但在過去的二十年，它們一直執行著同樣的程序，穩定的做著同樣的工作。

這些工廠最核心的控制系統是基於可編程邏輯控制器（PLC）的，包括在美國、歐洲、日本、韓國、中國新建的工廠也是如此。1968 年，人們引入了 PLC 來替代之前的機電繼電器。但機電繼電器的概念到今天仍在沿用，PLC 其實可以理解為編程過的 24 伏機電繼電器網路。

此外，工廠中的很多電線也被換成了乙太網電纜，但這裡並不是一個開放網路。乙太網電纜在這套全新的「古老」系統中點對點的傳遞信號，並將信號轉換為控制流，從而控制工廠中的機器按步驟執行任務。

在全世界大多數工廠中，如果想要改變信息流或控制流，需要耗費數周時間來搞清楚問題出在哪，重新設計流程，然後讓工廠技術人員重新對硬體進行配置。一位業內的朋友告訴我，他們的目標是每 20 年做 3 次軟體升級……

理論上來說，工廠中這種陳舊的系統管理方式應該被擯棄，而實踐中卻根本做不到。我剛看到一份工作清單，即便在今天，特斯拉汽車的加州弗里蒙特工廠還是在招聘大量的 PLC 技術人員，繼續採用機電繼電器模擬的方式來生產這些 AI 增強型電動汽車。

很多 AI 領域的研究者們認為，世界已經是數字化的了，全新的 AI 系統應該立即部署到供應鏈、工廠、產品設計中去。然而這種想法離事實還很遠，幾乎所有機器人和 AI 領域所取得的創新，要真正開始廣泛部署，所花費的時間要比人們想像的長太多太多。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！