Hinton的成功之路：從神經網路黑暗時代的堅守到今天的勝利

選自The Globe and Mail

作者：Jeff Gary

參與：吳攀、黃小天、Ellen Han

深度學習泰斗 Geoffrey Hinton 的名字在當今的人工智慧研究界可謂是如雷貫耳，他曾發明了玻爾茲曼機（Boltzmann machine），也首先將反向傳播（Backpropagation）應用於多層神經網路；不僅如此，他還有 Yann LeCun 和 Ilya Sutskever 等大牛級的學生。近日，Fred Lum 在 THE GLOBE AND MAIL 網站上發布了一篇介紹 Hinton 生平的文章，UC Santa Barbara 計算機科學系助理教授、CMU 博士王威廉在新浪微博上對此文總結說：「G 的高曾祖父是發明布爾代數的布爾，G 在劍橋先學了 1 個月物理就轉了建築，但只持續了一天。後重回物理，但覺得其中數學太難，轉學習哲學。學習一年後，G 對哲學充滿了抗體，只好修心理學。後確認心理學家對人類意識也是毫無頭緒，這才轉到愛丁堡學習 AI。」以下是機器之心對原文的編譯介紹。

多倫多大學教授 Geoffrey Hinton 參與谷歌大腦團隊的工作，開發人工智慧前沿技術

對於多倫多大學計算機科學教授 Geoffrey Hinton 來說，現在應該是一個歡慶的時刻。

出生於英國，現今 69 歲的他是人工智慧領域眾所周知的「神經網路教父」，神經網路是一種模仿人腦構建的計算機系統，並可自我學習。正如一些專家說的，如同 20 世紀的電力一樣，神經網路將——事實上已經——徹底變革人類生活方式。

數年來，Hinton 教授的工作不僅相對來說令人費解，而且在一場長達 10 年的計算機科學學術之爭中處於失利的一方。Hinton 教授說，他的神經網被獲得了更多資助的人工智慧傳統論（需要人工編程）者認為是「沒有頭腦的廢話（weak-minded nonsense）」，學術期刊過去常常拒收有關神經網路的論文。

但是在過去的 5 年左右的時間裡，Hinton 的學生取得了一系列的驚人突破，神經網路變得十分流行，Hinton 也被尊稱為計算新時代的宗師（guru of a new era of computing）。神經網路已經在手機中為絕大多數語音識別軟體提供支持，其還能識別不同種類的狗的圖片，精確度幾乎可以和人類媲美。

而且世界上最大的科技公司也正往神經網路研究中砸錢，僱傭了許多 Hinton 教授之前的學生，他們在蘋果、Twitter、谷歌和 Facebook 等公司進行著人工智慧方面的研究。他說人工智慧的研究潛力覆蓋了從無人駕駛汽車到智能手機的範圍，並能比任何皮膚科醫生都更好地診斷皮膚癌。人們預計這新一波的技術浪潮將席捲工業界並為發展且調控它的人們帶來巨大財富。

Hinton 教授將他的時間分配在多倫多大學和谷歌位於多倫多的辦公室里。在谷歌，他是一名工程學者（engineering fellow）並將協助領導一個新的人工智慧實驗室。他剛剛被任命為新成立的 Vector Institute 的首席科學顧問，那裡將開展人工智慧研究並致力於將多倫多建設成一個全球人工智慧的中心。

除了所有最近這些成績，Hinton 教授似乎還在進行一項保衛行動。在他位於谷歌的狹窄簡樸的辦公室內進行的一次訪談中——辦公室內沒有椅子，他的身後是一面與牆一般大小的白板，上面寫滿了公式——他不願在閑言碎語上浪費時間，但熱衷於極為詳盡地描述仍存在於神經網路的擁護者與那些更傳統的人工智慧形式的支持者之間的爭論。

他說，儘管谷歌給予了 100 萬美元的資助，他自己的大學卻遲遲沒有聘用一位新的神經網路方面的教授。現在，由於研究經費可以自由流動，很多人都在追逐神經網路的潮流。

Hinton 教授說：「現在神經網路有效了，所以業界和政府就開始把神經網路稱作人工智慧。原來的人工智慧領域那些一輩子都在嘲笑神經網路的人則說他們從來沒有那樣說過，現在也樂意把神經網路叫做人工智慧，而且也在嘗試從中賺錢。」

（很快就能明顯地發現 Hinton 教授喜歡動鼻子。在這次採訪中，他對美國總統 Donald Trump 進行了一些負面的評論，然後又通過一個簡單的微笑向旁邊的谷歌公關表示了歉意。）

傳統的人工智慧概念依賴於邏輯和規則來給計算機編程。在 20 世紀 60 年代，那時候人工智慧的研究還更多處於理論階段，不能實用。使用神經網路的思路被「摧毀（destroyed）」和抹黑，Hinton 教授說，傳統的模型得到了人們無疑的信賴。

但隨著過去幾年計算機算力的極大增長，神經網路的突破出現了，情況也隨即發生了變化。2009 年，Hinton 教授的 2 位研究生使用一個神經網路贏下了一個語音識別比賽，擊敗了之前最好的成熟方法，該神經網路後來升級並被整合到了谷歌的安卓手機中。2012 年，他的另外兩個學生又輕鬆贏下了一場圖像識別比賽。其使用的技術涉及到使用一個包含 100 萬張圖像的資料庫所訓練的一個系統，該系統在識別和描述一張圖像上的錯誤率僅有 5%——接近了人類的水平。

為了解釋神經網路的工作方式，Hinton 教授舉了一個翻譯程序的例子。他解釋說，使用神經網路作為翻譯器涉及到將巨量辭彙和句子片段送入一個計算機網路。該系統會找出句子的含義，並將其送入另一個神經網路，然後再以另一種語言輸出該句子，而無需使用編程或語言學規則。它甚至能自己學會主動語態和被動語態。

「沒有告訴它什麼是主動語態和被動語態。就像你的小孩一樣，你不會說：『瞧，Johnny，這是主動語態，這是被動語態……』你不會這麼說，但他們在一段時間後就學會了。」Hinton 教授說，「對於這些神經網路來說，關鍵就是它們確實學會了。」

在遊歷了美國多所大學後，他於 1987 年來到多倫多大學，並將做出這個決定歸為兩個因素。一個源於加拿大高等研究院資助了他的人工智慧研究。另一個則更帶有政治色彩：「我不想從美國軍方獲得資金。在美國，大多數人工智慧研究資金都來源於軍方。」

Hinton 教授出生於英國的溫布爾登，並在布里斯托爾長大，他的母親是一個數學老師，父親是一個專註甲殼蟲研究的昆蟲學家。他的高曾祖父是 19 世紀的邏輯學家 George Boole——現代計算科學的基礎布爾代數的發明人。Hinton 教授上的是他稱之為的「二流私立學校（second-tier private school）」（在英國被稱為公立學校）：「在學校中我並不很擅長數學。我喜歡物理學，還有足球。」

後來他去劍橋大學學習物理學和化學，但只持續了 1 個月，就退學並轉學建築，在只學了 1 天的建築之後，又重回到物理學和心理學，但是發現物理學中的數學太難了，因此轉學哲學，花 1 年修完了 2 年的課程。

Hinton 教授說：「這一年大有裨益，因為我對哲學產生了強烈的抗體（antibodies），我想要理解人類意識的工作原理。」

為此，他轉向了心理學，僅僅為了確定「心理學家對人類意識也不明所以」。在 1973 年前往愛丁堡大學研究生院學習人工智慧之前，他做了 1 年的木匠。他在愛丁堡大學的導師是 Christopher Longuet-Higgins，其學生包括多倫多大學化學家、諾貝爾獎得主 John Polanyi 和理論物理學家 Peter Higgs。

即使當時 Hinton 已經確信不被看好的神經網路才是正確之路，但是他的導師卻在那時不久改為支持人工智慧傳統論點。

Hinton 教授說：「我的研究生生涯充滿了暴風驟雨，每周我和導師都會有一次爭吵（shouting match）；我一直在做著交易，我會說，好吧，讓我再做 6 個月時間的神經網路，我會證明其有效性的；當 6 個月結束了，我又說，我幾乎要成功了，再給我 6 個月；自此之後我一直說，再給我 5 年時間，而且其他人也一直說，你做這個都 5 年了，它永遠不會有效的。但終於，神經網路奏效了。」

他否認自己曾懷疑過神經網路未來某天會證明自己的優越性：「我從沒懷疑過，因為大腦必然是以某種方式工作的。而大腦絕對不是以某種規則編程的方式工作的。」

當被問到「機器人會接管世界嗎？」這樣的爛大街的問題時，他認同應該限制人工智慧。他最近還簽署了一份請願書《阻止殺人機器人運動（Campaign to Stop Killer Robots）》，請求聯合國禁止人工智慧致命武器。他說：「我認為這是最可怕的地方，而且那不是遙遠的未來……就是現在。」

他預測說，人工智慧也有更好的未來，比如醫生使用神經網路來診斷疾病或皮膚癌。它們也可以被用於個人助理，不僅可以提醒你午餐約會，而且還能使用「常識（common sense）」來觀察你的行為，在你忘記了午餐約會的時候能根據情況決定是否打斷你正在進行的活動。

大銀行、有線電視公司和其它許多公司都在嘗試使用人工智慧來分析銷售數據等東西，以便更好地與他們的客戶進行交互，Steve Irvine 說。他之前在 Facebook 工作，後來離開 Facebook 來到了多倫多，創立了一家名為 Integrate.ai 的公司來幫助其它公司使用人工智慧。

「我認為對他太多讚美都不為過。」Irvine 這麼評價 Hinton 教授，「因為他經歷過人工智慧的黑暗時代，那時候他看起來就像是一位瘋狂科學家，人們從沒想過這真的會成功……現在，這些已經被談論了 20、30 年的事情終於發生了，我覺得這對他來說是一個很好的獎勵……現在這已經掀起了全世界的狂潮，而他就是教父。這絕對不是一夜之間就能取得的成功。」