「神經網路」的逆襲:圖解80年AI鬥爭史
曉查 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
有人的地方,就有鬥爭。
華山派有「劍宗」和「氣宗」,相互鬥了幾十年。人工智慧界也有「山頭」,AI兩大派系的鬥爭早在第一台電子計算機問世前就已經開始了。
有三名法國人把兩派的勢力對決畫成圖,名字叫「神經元的復仇」
這兩大派系就是:
「符號主義」(Symbolicism),又稱邏輯主義、計算機學派,主張用公理和邏輯體系搭建一套人工智慧系統。
「連接主義」(Connectionism),又叫仿生學派,主張模仿人類的神經元,用神經網路的連接機制實現人工智慧。
在符號主義者的眼裡,人工智慧應該模仿人類的邏輯方式獲取知識,而連接主義者奉行大數據和訓練學習知識。
派系鬥爭與兩次AI危機
早在達特茅斯會議之前,圖靈就提出過「圖靈機」這樣的人工智慧前沿概念。鬥爭之初的幾十年間,連接主義派的論文引用率一直領先對手。
別看奉行「連接主義」的機器學習如何風光,早年間他們長期受到另一個派別——「符號主義」者的鄙視。
60年代初,美國國防高級研究計劃署(DARPA)對AI領域進行了數百萬美元的投資,人工智慧也迎來的第一黃金髮展期。
第一次AI危機
情況在1969年起了變化,「符號主義」代表人物馬文·明斯基(Marvin Minsky)寫了一本名為《感知器》(Perceptron)的書,結果直接把神經網路給寫死了。
感知器是那個年代的神經網路。明斯基在書中向「連接主義」發難,你們的感知器連最基本的異或(XOR)都做不到,做出來還有什麼用?
也是在那一年,閔斯基獲得了圖靈獎。
「符號主義」派勝利後不久,AI就迎來了第一次寒冬。或者說,計算力的匱乏導致了第一次AI寒冬,幫助「符號主義」實現逆襲。
符號主義的高峰
到了70年代中期,專家系統(expert system)的出現帶來了AI的黃金時代。它其實就是一套計算機軟體,能夠模擬人類專家回答問題,不過它的智能僅局限在一個很窄的領域,說它是「活字典」可能更準確。
與此同時,「連接主義」也在悄悄發展,約翰·霍普菲爾德(John Hopfield)在1982年發現了具有學習能力的神經網路演算法。
就在「符號主義」志得意滿的時候,Lisp machine的失敗讓兩派力量再次發生了逆轉。Lisp是當時研究AI領域常用的編程語言,Lisp machine是專門被優化用來運行Lisp程序的計算機。
80年代,研究AI的學校都買入了這種機器,最後卻發現用它們做不出來AI。之後就出現了IBM PC和蘋果機,比Lisp machine便宜,運算力更強。
Lisp machine順理成章「狗帶」,AI進入第二次寒冬。
連接主義的逆襲
「連接主義」者在這時候也找到了更簡單的統計方法:支持向量機(SVM),它消耗的計算資源更少。之後,長短期記憶(LSTM)演算法也被提出。
後來的事情,你們也知道了,深度學習終於又重新霸佔了學術和工業界。
時間再回到當下,從2010年開始,機器學習成為AI行業主導。人工智慧在機器學習的幫助下,取得了巨大的成就,標誌著AI的徹底復甦。如今最熱的AI概念均出自「連接主義」派。
近年來,計算機硬體的發展更是讓「連接主義」如魚得水,連手機的計算力都能完成識圖的任務,深度學習能實現「反殺」也就不奇怪了。
雙方代表人物
說到兩派的鬥爭,就不得不提一下雙方的「將領」了:
符號主義派:馬文·明斯基(Marvin Minsky),麻省理工人工智慧實驗室創始人之一,他奠定了人工神經網路的研究基礎,早在1951年,他設計構建了第一個能自我學習的人工神經網路機器。
連接主義派:約翰·霍普菲爾德(John Hopfield),美國科學家,在物理學和計算機學方面均有很高的成就,1982年發明了聯想神經網路,也就是知名的霍普菲爾德網路。
兩派之間也相互引用文章
除了這兩位名人外,符號主義這邊的大牛還有Herbert A. Simon、Allen Newell。如今連接主義當道,這一派的大佬更為我們所熟知:比如Yann LeCun、李飛飛、Geoffrey Hinton等人。
關於兩派更詳細的內容,有興趣的同學可以看原文,不過是全法文哦:
https://neurovenge.antonomase.fr
—完—
年度評選申請
加入社群
量子位AI社群開始招募啦,歡迎對AI感興趣的同學,在量子位公眾號(QbitAI)對話界面回復關鍵字「交流群」,獲取入群方式;
此外,量子位專業細分群(自動駕駛、CV、NLP、機器學習等)正在招募,面向正在從事相關領域的工程師及研究人員。
進專業群請在量子位公眾號(QbitAI)對話界面回復關鍵字「專業群」,獲取入群方式。(專業群審核較嚴,敬請諒解)
誠摯招聘
量子位正在招募編輯/記者,工作地點在北京中關村。期待有才氣、有熱情的同學加入我們!相關細節,請在量子位公眾號(QbitAI)對話界面,回復「招聘」兩個字。
※空車上路,Waymo拿下加州首個「真」無人駕駛許可證
※TensorFlow王位不保?ICLR投稿論文PyTorch出鏡率快要反超了
TAG:量子位 |