漫天吹捧或是瘋狂打擊？細數錯誤預測AI發展的「七宗罪」

【獵雲網（微信號：ilieyun）】10月12日報道（編譯：田小雪）

編者註：本文作者Rodney Brooks是全球知名機器人製造專家以及美國國家工程院院士，同時還是波士頓機器人公司Rethink Robotics的創始人。

當下的我們，對人工智慧和機器人的未來走向，都有著過分狂熱的猜想，想知道它們究竟會變得多麼強大、速度究竟會有多快以及會給勞動和就業帶來什麼樣的影響。

最近，我看到了一篇文章，說是在未來10到20年的時間內，機器人會代替大約一半的人類勞動力，甚至還用了一張圖表來證明和闡述。

但我認為，這篇文章有不少觀點，純粹都是無稽之談。比如說，它指出，在未來10到20年的時間內，美國的地面維護人員總數，將會從現在的100萬縮減為5萬，因為機器人會代替他們的工作。但事實上，目前該領域並沒有任何正常運作的機器人，就連未來在該領域投放機器人的設想和計劃都沒有。除了地面維護，其他行業領域也是如此。說是未來，那些在固定場所需要人力的工作種類，有超過90%都會被機器人所代替，根本就是不現實的。

有人預測，未來人工智慧會大範圍代替人力。也有人預測，未來人工智慧創造出來的不同價值會給人類帶來負面影響。不管是哪一種，這類錯誤預測都會誘導人們產生不應該產生的恐慌情緒。因此，我們需要回過頭來，探究這些錯誤預測產生的根源。

下面，我就簡單介紹了這些錯誤預測產生的七大原因。

（一）高估和低估

Roy Amara是美國知名科學家，同時也是加州未來研究所（Institute for the Future）的聯合創始人。這是一個非營利性的智囊團，來自矽谷的心臟之地帕拉奧圖。Amara有一句名言，也就是現在所熟知的Amara法則：

我們很容易高估某項技術在短期內帶來的影響，而低估它在長期內帶來的影響。

雖然這句話只有21個單詞，但卻很難理解。可謂是仁者見仁，智者見智。樂觀人士和悲觀人士，往往有著完全不同的理解。

該法則兩面性的一個最佳案例，就是美國的GPS全球定位系統。1978年剛開始部署時，它只是在軌道中放置了24顆衛星，希望藉此來保證美國軍隊的準確軍需輸送。但在隨後的幾年中，這一系統的發展卻是幾經波折。第一次真正派上用場，是在1991年的沙漠風暴行動當中，即由美國領銜從伊拉克手中解放科威特的聯合國行動。

但現如今，也就是從Amara所說的長期角度來看，該系統的功能已經大大拓展了，完全突破了最初的設想。比如說，帶有GPS功能的蘋果手錶，能夠準確記錄用戶的跑步路線。這一點，早期研發該系統的工程師，是絕對想不到的。這項技術能夠保證全球範圍內各種運動的同步，對美國電網及其運行起著至關重要的作用，甚至還能在最大程度上幫助經常出入股市的交易者規避時間錯誤風險。

也就是說，GPS系統最初是本著某一目的才開始部署的。雖然沒有收到預期當中的效果，但卻以一種意想不到的方式滲透到了我們生活的方方面面。如果沒有這一系統，那我們或許會受凍、會挨餓，甚至會死掉。

在過去30年的時間中，與GPS系統發展模式類似的技術，還有很多。用一句話來總結，這些技術在起步時都「肩負重任」，雖然隨後的表現差強人意，但卻逐漸超出原本的預期範圍，在其他方面取得了進展直至收穫成功。計算、基因組測序、太陽能以及風能的發展模式均是如此。

人工智慧也不例外。無論是20世紀60年代，還是20世紀80年代，又或是現在，我們確實是高估它了。但從長期角度來看，它未來的發展態勢和表現，又很有可能會被低估。但問題就在於，這裡所說的長期，到底是多久。而下面列出的六項錯誤，將會幫助解釋為什麼在人工智慧未來發展這個問題上，時間維度在較大程度上被低估了。

（二）將其想像成神奇的魔法

我年輕的時候，亞瑟·克拉克（Arthur C. Clarke）、羅伯特·海因萊因（Robert Heinlein）和艾薩克·阿西莫夫（Isaac Asimov），可以說是「科幻小說三巨頭」。其中，克拉克不僅是一位科幻小說家，還是一位發明家和未來主義者。在1962年到1973年之間，他先後提出了三個觀點，也就是現在所熟知的克拉克三大法則：

第一，如果一位受人尊敬但是年長的科學家認可某件事情是有可能的，那他基本上就是對的。可如果他斷言某件事情是不可能的，那他很可能就是錯的。

第二，想要找到可能性當中存在的各種限制，唯一途徑就是冒險將其歸到不可能的範疇之中。

第三，任何發展足夠充分、足夠先進的技術，幾乎就會像魔法一樣神奇。

其中，我想要具體闡述第三條法則。假設我們有一架時光機，讓牛頓從17世紀晚期穿越到現在的21世紀，地點還是在劍橋大學的三一學院。

不過，在這裡，「蘋果」需要換一下。我們用iPhone手機，來代替當時那顆掉下來的蘋果。即便牛頓通過三稜鏡折射實驗將白光分為七色光，證明白光並非單色光，但當看到手機屏幕上各種圖標的不同色彩，他肯定會驚訝萬分。接著，你還可以用手機播放他熟悉的電影場景或者教堂音樂；給他看看自己所寫的《自然哲學的數學原理》，並且教他如何在屏幕上放大縮小、查看細節。

那麼，牛頓能夠解釋這其中所有的原理嗎？沒錯，他是發明了微積分、闡述了光學和重力原理，但卻沒能從鍊金術成功過渡到現代化學。因此我認為，他肯定會很困惑，在對這款設備一無所知的狀態下，產生一種體驗魔法般的神奇感受。

而一旦某件物品貼上了「神奇」和「魔法」的標籤，那就很難去想像它有些什麼限制。假設，我們再進一步向牛頓展示，iPhone手機如何拍照、如何錄音、如何當作放大鏡、如何快速進行算術運算、如何統計行走步數以及如何進行即時通話，那牛頓又會有什麼樣的反應呢？他會想到要給這樣一款設備充電嗎？既然不用火也能充當光源，那他是不是甚至認為這款設備能把鉛變成黃金呢？

這就是我們在想像未來技術時會遇到的問題。如果某項技術現在理解起來比較困難，那我們也就不可能知道它存在哪些限制。同理，如果某項技術變得像魔法一樣神奇，那不管是什麼樣的預測評論，都不再是可以檢驗真偽的。

同時，這也是我就通用人工智慧這個問題與他人辯論時，時常會遇到的問題。他們說，人類應該提防甚至畏懼通用人工智慧，說我根本不知道這項技術的影響力有多大。但我覺得，這根本就不算一個論據，畢竟我們連它究竟會否存在都還不知道。當然了，我個人傾向於認為它存在，這也是我多年來一直從事機器人與人工智慧研究的動力和原因所在。但現如今，通用人工智慧研究工作，進展得並不是很順利。幾乎我看到的所有證據都表明，人類根本不知道應該如何正確研發通用人工智慧。說白了，我們對它就是一無所知。那麼，類比來看，它應該很快就會成為一項像魔法一樣神奇的技術，影響力大到不受任何限制。

但要知道，宇宙空間中的任何事物，都是存在限制的。所以，說到底，這是一種基於信仰的論據，並不是基於科學的論據。

（三）把表現與能力混為一談

通常，我們會用某人完成某項特定任務時的表現，來推斷他應該也能以相似的表現，來完成其他任務。比如說，你在陌生的城市問路，如果對方信心滿滿給出了回答，那你就會想當然認為，他同樣也能告訴你坐公交應該如何付錢。

舉個例子，如果現在有一張照片，照片上有人正在公園裡玩飛盤。那麼，你看到之後，自然而然就會認為他們了解飛盤，並且能夠回答這幾個問題：第一，飛盤是什麼形狀的？第二，玩飛盤時一般要站得多遠？第三，一次最多能讓多少人同時玩飛盤？第四，今天的天氣狀況適合玩飛盤嗎？

沒錯，計算機確實能夠標記出「在公園玩飛盤」這類圖片，但卻無法針對上述問題給出具體回答。不僅如此，它們根本就不知道究竟什麼才可以被稱為人，也不知道公園通常都是在室外的，更不知道照片所呈現出來的效果在某種程度上是由天氣狀況決定的。

但即便如此，這些系統都還是非常有用的。對於搜索引擎來說，它們可以帶來較大價值。那麼，問題出在哪兒呢？一旦人們知道，某些機器人或者人工智慧系統能夠完成某些特定任務，那他們就會想當然地產生一種想法，即把之前看到的某些表現簡單歸納為一種固定能力，認為那些機器人和人工智慧系統同樣有能力來完成其他不同的任務。

可事實上，現如今，機器人和人工智慧系統的應用範圍是非常狹小的。人類下意識進行的推演和歸納，是完全不適用的。

（四）「行李箱單詞」詞義較多、難以正確理解

MIT人工智慧實驗室的聯合創始人Marvin Minsky，曾經將那些詞義較多的單詞定義為「行李箱單詞」。其中，「學習」就是一個非常典型的行李箱單詞，它可以代表許多不同類型的學習經歷。比如說，學習如何使用筷子，與學習如何唱好一首新歌，就是非常不同的體驗經歷。

因此，當人們聽說機器學習在某些全新領域取得較大進展時，就很容易認為人類也可以藉助這種相同的心智模式來了解這些全新領域。但其實，機器學習是非常脆弱的。那麼，什麼叫做脆弱呢？因為這項技術的順利應用，需要研究人員和工程師提前做好充足的準備工作。除此之外，還需要目的明確的編程代碼和訓練數據集，以及針對每一全新問題所設計的個性化學習結構。現階段的機器學習，並不是人們以往那種「海綿式」的學習模式。所以說，如果你不主動做出一些變動，或者說不明確自己的目的，那麼就很難快速在全新領域取得進展。

同樣地，當人們聽說計算機能夠打敗世界象棋冠軍（1997年）或者能夠打敗全球頂尖圍棋手（2016年），也就很容易認為計算機下棋或者取得勝利的方法，與人類下棋或者取得勝利的方法大同小異甚至完全相同。當然，在現實生活中，這些代碼程序根本就不知道真正的棋局如何，甚至根本就不知道自己是在下棋。它們對棋局變化的適應能力，要比人類差很多。因為如果是真人下棋，那麼規則上的細微變動，是不會帶來太大負面影響的，他們能夠隨機應變。但到目前為止，AlphaGo或者Deep Blue都還做不到這一點。

行李箱單詞會讓人們錯誤地認為，機器能夠一種完美方式來完成人類要完成的任務。至於這種誤導現象產生的原因，有一部分是人工智慧研究人員甚至是機構性新聞辦公室，迫切地想要向外界展示人工智慧所取得的進展和成就。這樣一來，不少細節就會丟失。新聞報道頭條，歪曲了人們對人工智慧發展狀態和進度的理解，也誇大了它未來的發展可能性。

（五）過度糾結於「指數增長」

在現實生活中，不少人都深受「指數增長」這一問題的困擾。想必大家都知道所謂的摩爾定律，就是說未來計算機會像發條一樣極其規律、極其精準地實現完善和優化。但其實，最開始，戈登·摩爾（Gordon Moore）只是想表述這樣一點，即往後每年適用於微晶元的零部件數量將會翻倍。而隨後50年微晶元的發展，也成功印證了這句話。

適用於微晶元的零部件數量的翻倍，使得計算機運行速度隨之持續翻倍，進而記憶晶元的容量每兩年也會實現四倍的擴大。不僅如此，它還會提高數碼相機的解析度，讓LCD顯示屏的像素數以指數形式提高。

對於那些深受指數增長問題困擾的人來說，他們或許會認為用來判斷某一論據的指數數值會持續快速增加。但可惜的是，摩爾定律以及其他一些指數定律可能都不太管用，因此持續快速增加可能也不會出現。

早幾十年，我還擔任著MIT計算機科學和人工智慧實驗室（CSAIL）的負責人，需要幫助超過90個不同的研究小組籌集資金。那時候，我就藉助iPod上的記憶增加來向贊助商說明，未來技術還將會繼續快速變化。下面是以往幾年花400美元能在iPod上購買到的音樂儲存空間：

2002年：10GB

2003年：20GB

2004年：40GB

2006年：80GB

2007年：160GB

以此類推的話，現在我們應該能花400美元在iPod上購買到16萬GB的儲存空間。但現實呢？售價超過400美元的iPhone手機，卻只有256GB的儲存空間。也就是說，如果遇到了某些限制，或者沒有更多的經濟原理作為支撐，那麼指數增長就不再成立了。

同理，得益於深度學習的成功，人工智慧系統近來的性能表現已經大大提升了。不少人聽到這句話，可能就會下意識認為，未來人工智慧的表現，還將會以某種規律繼續完善。但其實，深度學習取得成功花費了長達30年的時間，而且這只是一個孤立事件。

當然，這也不是說，未來就不會有更多孤立事件發生。說不定，在人工智慧研究人員的努力之下，那些人工智慧應用程序就可以取得快速且顯著的發展。總之，一句話，我們無法就這一問題給出準確預測，也沒有什麼法則或者規律能夠明確指出這些事件的發生頻率。

（六）好萊塢場景

好萊塢的科幻電影通常會有這樣的情節，即在新的變數出現之前，世界還是會保持現狀。

在《機器管家》這部電影中，有一個場景是機器人管家伺候主人吃早餐。主人邊吃早餐邊看報紙，注意不是平板也不是亞馬遜Echo中的播客，就是列印出來的普通報紙。

也就是說，雖然不少人工智慧研究人員和學者，尤其是那些持悲觀態度的人，都認為人工智慧未來會發展到一種失控的地步，甚至會對人類的生命安全造成威脅，但其實這些都只是他們的想像而已。他們忽略了這樣一個事實，即如果我們最後果真能夠研發出這類智能設備，那麼整個世界都將會大大改變。我們應該不會突然被這種超級智能的存在驚到。從技術角度上來看，它們會隨著時間的推移逐漸演化。在考慮那些試圖取代人類、威脅人類的超級智能之前，我們可以先想想那些不會咄咄逼人、智能程度稍低的機器。而在這之前，我們又可以先想想那些操作不順暢、令人惱火的笨拙機器。總之，我們會逐步去改變自己生存和生活的世界，針對新技術及其所處的環境不斷進行調整和適應。注意，在這裡，我並不是說就沒有挑戰存在，而是說不會像大多數人所想的那樣，突然遇到一些意想不到的挑戰。

（七）軟體系統和硬體設施的部署速度

在某些行業，新版軟體的部署頻率是相當高的。諸如Facebook這類平台幾乎每個小時都會發布一些新功能。而對於其他許多新功能，只要是通過了集成測試，那在出現問題的第一時間，也就必須要把原來的版本撤回來進行修改和更新。這是矽谷和網頁軟體開發人員，都已經習慣了的做事節奏。而這種節奏之所以為大家所採納以及認可，主要就是因為部署全新代碼的邊際成本幾乎等於零。

但是，另一方面，部署全新硬體可就有不小甚至是相當大的邊際成本了。在現實生活中，就有很多這樣的案例。比如說，我們現在購買的汽車，大多都不是自動駕駛的，也無法完全受控於軟體系統，說不定到2040年都還在路上跑。所以，這就給我們提了一個難題，那就是究竟到什麼時候才能夠讓路上的汽車全部都變成無人駕駛汽車。

就是因為存在成本問題，所以硬體設備的部署和更新需要很長時間。我經常能夠在一些工廠里，看到「工齡」幾十年的台式計算機，還用著早在1990年發布的Windows 3.0系統。工廠的想法就是，只要它們不壞，那就絕對不修。在超過20年的時間裡，這些計算機及其軟體，一直運行著同一款應用程序，完成著同一項任務，而且極為可靠。

各個國家的工廠，包括美國、歐洲和中國，所採用的最為主要的控制機制，就是以可編程邏輯控制器（即Programmable Logic Controller，簡稱PLC）為基礎的。這種控制器是在1968年引進的，主要用來代替機電式繼電器。如果工廠需要改變信息流或者控制流，那至少需要幾個星期的時間來詳細評估、重新設計各種配置。另外，還需要投入很多人力資源來重新進行硬體部署。

很多人工智慧研究人員認為，現在我們已經生活在一個數字化的世界了，因此全新人工智慧系統將會在最短時間內給生活各個方面帶來巨大變化。但其實並非如此，幾乎所有與機器人和人工智慧有關的創新，想要實現大範圍普及，還是需要一段時間的，遠遠超過外人的想像。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！