「人工智慧教父」：不要再提人工智慧了！
《終結者》主題曲
驚奇檔案附贈CD1
The Royal Band
00:00/01:58
去年5月，螞蟻金服成立了科學智囊團，聘請美國"三院院士"、伯克利教授，號稱「人工智慧（機器演算法）教父」的邁克爾.喬丹為首任主席。
近日，喬丹在Medium上，非常難得地發布了他的第一篇文章《人工智慧：革命遠未到來》，對當前AI研究中的問題進行了冷靜反思。
下面是文章的主要內容......
人工智慧（AI）是當今時代的頌歌。但這裡存在著嚴重的誤解。其中，科學家同大眾一樣感到困惑。我們這一時代之所以出現這樣的想法，是因為在某種程度上看到了硅基智能（an intelligence in silicon）的實現，它能夠與我們人類智力相媲美——不幸的是，它分散了我們對關鍵問題的注意力。重點其實在於——人們對於硅基智能的幻想之外的東西。
A）統計學＋計算機科學＋人本身 = 新學科（人機「結合」的準則）
14年前，我妻子懷孕時，我們進行了超聲波檢查。在場的有一位遺傳學家，她指出胎兒心臟周圍有一些白色斑點，「這些都是唐氏綜合征的標誌」，她指出，「風險已經升高到1/20」。她告訴我們，可以通過羊膜穿刺術確認胎兒是否具有遺傳性唐氏綜合症。但是羊膜穿刺術風險很大——在手術過程中殺死胎兒的風險大約為1/300。
作為統計學家，我決定找出這些數字的來源。我發現英國有一項統計分析已進行了10年，反映鈣積聚的白色斑點確實被列為唐氏綜合症的預測指標。但我也注意到，相較於英國研究中使用的儀器，我們的測試中使用的成像儀器每平方英寸中多了幾百個像素。
於是，我就去告訴那位遺傳學家，這些白色斑點可能是假陽性——它們實際上是「白雜訊」。她說：「啊，這就解釋了為什麼我們幾年前就開始看到唐氏綜合征診斷率在上升，新機器時代到來了」！
我們沒有做羊膜穿刺術，幾個月後，一個健康的女孩出生了。我確信，全世界有成千上萬的人得到了這種診斷（誤診），他們中的許多人選擇了羊膜穿刺術，從而致使一些嬰兒無謂地夭折了。
這一事件所揭示的問題是，人們對某些地點和時間內的變數和結果進行測量，進行統計分析，並在其他地方和時間中應用這些結果。這個問題不僅與數據分析本身有關，還與資料庫研究人員所謂的數據「來源」有關。數據從何而來？從數據中得出了什麼推論？這些推斷與當前情況之間的相關程度如何？
雖然一位經驗豐富的工作人員或許能夠具體情況具體分析地完成所有這些工作，但問題在於如何設計一個行星級（天文數字的）系統，使其能夠在不需要詳細的人類監督的情況下，做到這一點。
我也是一名計算機科學家，我突然意識到：通過將計算機科學與統計學相結合，並納入人力資源因素，建立這種行星級推理及決策系統所需要的準則——這在我以往所受的教育中從未有過。
B）人機結合的準則，至少與實現具體功能的技術手段同等重要
我想到，不僅在醫療領域，而且在商業、交通和教育等領域，這些準則的發展——與用於建立AI系統，使AI具備令人驚嘆的遊戲和運動感知能力的原理——同等重要。
無論我們能否在短期內理解所謂的「智能」，我們都面臨著一個重大挑戰：如何將計算機與人類結合在一起，從而提高人類的生活質量。這可以看作是一個新的工程學科分支。就像過去幾十年的土木工程和化學工程一樣，這門新學科的目標是將一些關鍵思想的力量凝聚起來，為人們帶來新的資源和能力，並且安全地做到這一點。
土木工程和化學工程是建立在物理和化學基礎之上，而這個新的工程學科將建立在20世紀賦予的思想基礎之上——諸如「信息」、「演算法」、「數據」、「不確定性」、「計算」、「推理」、「優化」。此外，由於新學科的側重點將放在有關人類的數據上，其發展將需要社會科學和人文學科的理論支撐。
雖然AI的"構建塊"（可調取、組合的計算機命令模塊）已經開始出現，但將這些構建塊組合在一起的準則還沒有出現，因此這些構建塊只能以特定方式組合在一起（而非通用、普適的）。
正如人類在土木工程出現之前建造房屋和橋樑一樣，人類正在初步構建涉及機器、人類和環境的社會級規模的推理和決策系統。
但是，正如早期的建築和橋樑有時會以不可預見的方式坍塌一樣，我們早期使用的許多社會規模的推斷和決策系統已暴露出嚴重的概念性缺陷。
不幸的是，我們難以預測下一個出現的嚴重缺陷是什麼。我們缺少的是一個具備分析和設計原理（準則）的工程學科。
C）機器學習似乎已進化到「仿人AI」，但實際上仍在低水平上解決個別問題
當前，AI一詞已經用濫了，我們需要結合近期和歷史情況，更為仔細地思考一下，「AI」到底指稱的是什麼。
如今被稱為「AI」的大多數東西，在過去的幾十年中往往被被稱為「機器學習」（ML）。ML是一個演算法領域，它將統計學、計算機科學和許多其他學科的思想融合在一起，設計了用以處理數據、作出預測，並幫助做出決策的演算法。
就對現實世界的影響而言，ML是真實可靠的，而這並不僅僅是針對近期而言的。事實上，早在20世紀90年代初期已現端倪：ML將會發展成巨大的產業鏈。而到世紀之交，諸如亞馬遜這樣的具有前瞻性的公司已經在他們的業務中使用了ML，並成功解決了欺詐行為檢測、物流鏈預測中的關鍵任務的後端問題，並構建了商品推薦等面向消費者的新服務。
隨後的20年間，數據集合、計算資源快速增長，ML可以為——任何把決策行為與大規模數據綁定在一起的公司提供推動力。新的商業模式出現了。
這種現象被稱為「數據科學」。反映了ML的演算法專家需要與資料庫及分散式系統專家合作，以建立具有可擴展性的、魯棒性（容錯、抗災）的機器學習系統，並且賦予系統更大的社會範圍和環境範圍。
過去幾年裡，思想與技術趨勢的上述融合被重新命名為「AI」。不過，這個"招牌"的重塑還有待商榷。
從歷史上看，「人工智慧」這個詞在20世紀50年代後期被創造出來，表達了在軟體和硬體中實現具有人類水平智能之實體的強烈願望。我們將使用「模仿人類的人工智慧（human-imitative AI）」（以下簡稱"仿人AI"）一詞來指代這一願望，強調人工智慧實體似乎應該是我們人類群體中的一員——即使不是在物理層面上，至少在精神上如此。
雖然諸如運籌學、統計學、模式識別、信息理論和控制理論等相關學術領域已經存在，並且常常受到人類智能（和動物智能）的啟發，但上述這些領域只能說是集中在「低水平」的信號和決策上。例如，松鼠能夠感知它所居住的森林的三維結構，並在樹枝之間跳躍的能力。
真正的「人工智慧」聚焦於人類進行「推理」和「思考」的「高水平能力」或「認知能力」。然而，幾十年過去了，時至今日，高水平推理和思想仍然難以捉摸。目前被稱為「人工智慧」的技術研發主要集中在與低水平模式識別、運動控制相關的工程領域，以及統計學領域中。統計學專註於找到數據中的模式並進行有根據的預測、測試各種假設和決定。
20世紀80年代早期由David Rumelhart重新發現的著名的「反向傳播」演算法，現在被視作「AI革命」的核心，其實最早出現在20世紀50年代和60年代的控制理論領域中。其早期應用之一是優化阿波羅太空船登月的推力。
自20世紀60年代以來，該領域已經取得了很大的進步，但是，這並不是來自對仿人AI的追求。相反，就像阿波羅宇宙飛船的例子一樣，這些技術進步一直是研究人員聚焦於特定的工程挑戰所取得的結果。
雖然對公眾而言，這些技術進程是看不見摸不著的，但在文檔檢索、文本分類、欺詐檢測、推薦系統、個性化搜索、社交網路分析、規劃、診斷等領域的系統建設已經取得了重大成功。這些進步推動了谷歌、Netflix（在線影片租賃）、Facebook和亞馬遜等公司的發展。
D）AI已經濫大街了，以至於人們忘了還有 I.A.（智力增強）
人們可以簡單地將所有這些都稱為「AI」。這樣的標籤讓從事系統優化或統計學的研究人員一覺醒來後突然發現自己成了「AI研究人員」。但是，使用這個單一的、定義不明確的縮寫詞會誤導人們。
過去20年里，人們在工業和學術界對仿人AI加以完善並取得了重大進步，這通常被稱為「智力增強（Intelligence Augmentation，IA）」——計算和數據被用於創建一種增強人類智力和創造力的服務。搜索引擎是IA的一個例子（它增強了人類記憶和事實性知識），語言翻譯也是如此（它增強了人類的溝通能力）。
雖然IA服務涉及到了高水平的推理和思考，但它們並未更進一步，目前它們主要執行各種類型的字元串匹配和數值運算，以發現捕捉人類可以利用的模式。
F）I.I.（智能基礎設施）更為重大：事關全社會人、機、物交互的普遍準則
除了AI、IA，還有一個概念「智能基礎設施（Intelligent Infrastructure,II）及其規則，它能夠賦予人類環境更具支持性、更有趣、更安全的計算、數據和物理實體網路。這樣的基礎設施已經在交通、醫學、商業和金融等領域中出現，對人類個體和社會影響巨大。
我們在談到「物聯網」（Internet of Things）時會提到II，但物聯網僅僅是將「事物」接入到互聯網上。II 則事關更艱巨的挑戰——如何能通過分析這些數據流，發現世界中正在發生的事實，並且在比數據更高的抽象層次上，實現 AI、IA 與人類及其他「事物」進行交互。
舉個例子，我們可以想像我們生活在一個「社會規模的醫療（信息化）系統」中，它在醫生和位於人體內部及周圍的設備之間建立了數據流和數據分析流，從而在診斷和護理的過程中幫助人類。該系統包含人體細胞、DNA、血液檢查、環境，群體遺傳學和大量關於藥物和治療的科學文獻。
它不僅關注單個病人和醫生，還關注所有人類之間的關係——就像當前的醫學測試允許對一組人類（或動物）進行實驗，並將其帶入對其他人類的醫療中。它以某種方式保證醫療信息的相關性、來源及其可靠性，這種方式與銀行、金融及支付領域的關聯綁定如出一轍。——這種社會規模的大系統就是 II。
G）仿人AI的成就有限，而且可能連方向都搞錯了
首先，仿人AI的成就實際上是有限的，我們距離真正實現仿人AI還很遠。仿人AI領域取得的些許進展，經常導致行業的過度興奮和媒體的過度關注，或興奮或恐懼。
更重要的是，目前智能領域的成功不足以解決IA 和 II 的重要問題，而且這些成果還不是必需的。比如自動駕駛汽車。要實現這樣的技術，需要解決一系列工程問題，而這些問題可能與人類應當擁有的（AI）能力關係不大。智能整體運輸系統（一個 II 系統）更類似於目前的空中交通管制系統，而不是當前正處於對鬆散耦合的、前向的、人類駕駛員注意力不集中等數據進行收集的系統。當然，智能運輸系統比當前的空中交通管制系統複雜得多。
H）仿人AI並不是一切進步的前提，也不是什麼必經之途
很多人認為，仿人AI涵括了 IA 和 II ，因為仿人AI也是我們解決 IA 和 II 問題的最佳選擇。但是，發展土木工程需要先想像一個人造的木匠或砌磚工嗎？發展化學工程，甚至於，建造一個化工廠需要先設計一個人造的化學家嗎？
還有一個相關的論點：人類智能是唯一的一種智能，而且必須把模仿人類智能作為研究的第一步。但實際上，人類並不是很擅長某種推理——我們有自己的過失、偏見和局限。此外，至關重要的是，我們自己並沒有進化到能夠執行現代 II 系統必須面對的那種大規模決策，也無法應對在 II 環境中出現的那種不確定性。
有人可能會說，AI系統不僅會模仿人類智能，而且還會「糾正」它，並且還會擴展到任意規模的問題上。但我們畢竟不能根據科幻小說來決定如何發展技術！實際上，我們需要根據自己的優勢來逐步解決 IA 和 II 的問題，而不是把這些問題的解決當作仿人AI發展的必然結果。
I）II 能提升人與人的共享水平，IA 能激發人們的創造力
II 系統需要具備對分散式知識庫進行管理的能力，這些知識庫正在迅速變化，並且可能在全球範圍內具有不連貫性。這樣的 II 系統能及時做出分散式決策，以處理雲交互，同時也必須處理長尾效應，即大多數數據掌握在少數人（互聯網公司）手中，而大多數人掌握很少的數據（普通用戶）。他們還必須設法跨越管理界限、解決競爭問題，以共享數據。
最後，非常重要的一點是，II 系統必須將激勵、定價等經濟思想納入統計和計算基礎設施領域，從而更深層地將人與人、人與有價值的貨物聯繫起來。這樣的II系統不僅可以提供服務，還可以創造市場。像音樂、文學和新聞等領域，迫切需要這樣的市場，在其中，數據分析將使生產者和消費者真正聯繫在一起。——這一切都離不開持續發展的社會規範、道德規範和法律規範。
未來 IA 依然會非常重要，因為在可預見的未來，計算機無法像人類一樣，對現實世界的情況進行抽象的推理。我們需要充分利用人與計算機之間成熟的交互方式，來解決最緊迫的問題。我們希望計算機（通過 IA）能夠觸發人類更高級的創造力，而不是取代人類的創造力。
J）AI 的話題太局限。未來真正屬於一門融合了計算機科學、統計學、社會科學等多學科，並且堅持以人為本的新工程學科
我們應當認識到，當前關於AI的公眾話題局限在狹小的領域，會使我們對AI、IA、II在全範圍帶來的挑戰和機遇視而不見。
這個範圍不是關於實現科幻夢想，抑或關於超級機器人的噩夢，而更多的是關於人類如何理解和塑造技術，因為相關技術在日常生活中已變得更加真實和富有影響力。在這一理解和塑造過程中，需要來自各行各業的不同聲音，而不僅僅是技術上的對話。如果將注意力狹隘地集中在仿人AI上，會使人們難以聽到更多的聲音。
儘管工業界將持續推動很多方面的發展，但學術界也會繼續發揮重要作用，不僅在提供一些最具創新性的技術思想方面，而且還將把計算和統計學科的研究人員與其他學科的研究人員聚集在一起，這些研究人員的觀點是我們迫切需要的，特別是社會科學、認知科學和人文學科界的。
當今社會正致力於構建一些按我們指令工作的新產品。但我們不想建立一個幫助我們進行醫學治療、提出運輸建議、獲取商業機會的智能系統，因為我們會發現諸如此類的系統實際上根本不起什麼作用，並且這些系統犯下的錯誤會對人類的生命和幸福造成危害。
正如我一再強調的，對於聚焦數據和學習的領域，尚有一門新的工程學科有待出現。
我們正目睹一個嶄新的工程學分支的誕生。「工程」一詞通常被狹義地使用，通常含有冷酷、無情的機械和失去人類控制等負面含義。當今時代，我們真正有機會設想一個歷史上從未有過的新事物——一門以人為本的工程學科。
我們拒絕為這門新興的學科命名，但如果「AI」繼續被當作指向未來發展的術語，那麼我們會逐漸意識到這一詞的真正局限性。讓我們擴大範圍、淡化炒作，真正認識到前方道路所面臨的嚴峻挑戰！
TAG:職場段子社會人 |