福布斯深度專訪 Jeff Dean——谷歌人工智慧背後的大腦

科技 08-03

極客公園微信號：geekpark

谷歌人工智慧

本文選自 Forbes，作者：Peter High 。由機器之心（微信公眾號：almosthuman2014）編譯，參與：杜夏德、吳攀、無我莽莽、黃清緯、李亞洲。極客公園已獲轉載授權。

在這篇涉及範圍廣泛的訪談中，Jeff Dean 描述了他在谷歌的多種角色、該公司的人工智慧願景、他對谷歌作為科技巨頭的同時又如何保持創業精神上的想法，等等眾多主題。

Jeff Dean 在獲得華盛頓大學計算機科學博士學位的三年之後（1999 年）加入了谷歌公司，成為了該公司最早的員工之一。在谷歌的成長過程中，他一直是該公司的頭面人物——設計和實現了支撐谷歌大部分產品的許多分布式計算基礎設施。

谷歌 CEO Sundar Pichai 曾說過谷歌將會變成一家人工智慧優先的公司；作為系統和基礎設施組（Systems and Infrastructure Group）的高級成員，Dean 及其團隊對實現這樣的目標至關重要。

Peter High：Jeff Dean，你 1999 年加入谷歌，見證了該公司大部分歷史。請給我們簡要描述一下你這 17 年來在該公司所扮演的角色的發展。

Jeff Dean：當我加入的時候，谷歌還相當小。我們都擠在帕洛阿爾託大學路（University Avenue）上的一間小辦公司里。我的第一個主要工作是創建我們的第一個廣告系統。然後我用了四五年的時間來開發在谷歌上的每次查詢都會用到的檢索、索引和搜索系統。在那之後，我基本上在和 Sanjay Ghemawat 等一些同事一起開發谷歌用來存儲和處理大型數據集與做構建搜索索引或處理衛星圖像等事情的軟體基礎設施。最近一段時間，我一直在開發研究機器學習系統。

High：鑒於你的涉及範圍和角色是如此地廣泛，我想你可能沒有「平常的一天（average day）」。你如何確定與公司內外的什麼人進行交流？我很想知道你如何在你所從事的不同事情上分配時間。

Dean：我沒什麼典型的一天。在開始的十四或十五年里，我沒有任何管理上的工作，那給了我更多自由時間來專註編寫代碼。過去幾年，我管理了一些機器學習上的工作，這對我來說是一件有趣而新穎的學習經歷。因為我在該公司的這段歷史裡做過很多事情，而且我喜歡這些不同的項目進展保持關注，我常常收到很多郵件。我在處理電子郵件上花了很多時間，大部分是刪除或略讀它們以了解事情的進展。在任何時候，我都有幾個技術項目要做，所以我需要在各種會議和設計審查這些事情之中找到花費我每天時間的方法。

High：儘管谷歌實現了急速的成長，但谷歌一直是創新的典範。它的雄心和創新精神看起來就好像它還是一家小公司一樣，但它現在已經擁有了人力和財力上的資源，是科技行業的龐然大物。谷歌這家企業是如何打敗繁文縟節和官僚主義，從而使其保持與其體量不相稱的靈活性的？

Dean：自我加入公司以來，谷歌基本上就一直在不斷成長。早些年的時候，我們的員工數量每年都在翻番。在百分比上，我們現在已經放緩了；但在絕對數量上，我們仍然有相當顯著的增長，員工的數量每年都會增長大概 10% 到 20% 的樣子。公司體量的每一次倍增都會迫使我們重新思考該在公司內部如何完成事情。在 X 人時有效的做法，人數擴增到兩倍時已經行不通了，我們必須搞清楚如何適應我們的風格、我們的工程開發、組織架構、團隊動態等等以適應新的公司規模。

我認為在增長中對我們有所助益的一件事情是我們往往會分支到許多不同的領域，這些領域在某種程度上獨立於谷歌的其它部門的工作。創造用於接入互聯網的高空氣球的部門與提供搜索查詢的部門只有相對適中的互動。和我們核心業務中的項目不一樣，我們許多不同活躍項目都不需要那麼多的交流，這讓我們可以實現規模和效率。

High：我理解谷歌/Alphabet 分離的部分原因是因為要將不同類型的活動分開以保持敏捷。這是一個合理的評價嗎？

Dean：我認為是的。我認為這能讓 Alphabet 旗下的其它實體能更獨立地運作。對於規模的倍增，我想說通過一些有趣的轉變，我們從所有人都在一個建築里工作變成了現在不再同一個建築里。

後來，我們的工程開發工作也從山景城擴散到了蘇黎世、紐約、東京和西雅圖。我們這五處辦公室已經有一段時間了，而且這些辦公室現在已經發展得相當大了。再後來，在短短几年之內，我們工程開發的辦公室數量就從五個增加到了三十五個，因為我們覺得在世界各地尋找優秀人才並圍繞他們開設辦公室是非常好的。這讓我們不得不重新思考我們該如何去組織大量的工程開發工作。如果你有一個小辦公室，它就可能不應該做一百件事；它應該只做少數幾件事，並專心將它們做好。一些小公司採用的模式是看山景城的其他人怎麼做，他們看到別人正在做一百件事，所以他們認為自己也應該做一百件事。我們慢慢找到了一種使用分布在世界各地的工程辦公室中所有人的更好的方式。

High：谷歌 CEO Sundar Pichai 曾經說過，從長遠來看設備將逐漸消失，計算將從移動優先（mobile first ）進化到人工智慧優先（AI first）。請你描述一下谷歌的人工智慧優先的願景。

Dean：我認為我們已經從桌面計算移到了移動計算，每個人都隨身帶有一個「計算設備」。隨著設備繼續縮小，語音識別和其它類型的可替代的用戶介面變得更實用，這將改變我們與計算設備交互的方式。它們可能隱入背後，並圍繞著我們，讓我們能夠像與可信賴的伴侶一樣和它們交流。它們將協助我們獲取想要的信息，或者幫助我們完成各種各樣的任務。我認為這是向前推動機器學習的一個主要目標：在提供建議上擁有能夠像人類夥伴那樣智慧的計算機、當需要的時候它們能夠尋找到更多的信息等這種事情。我認為接下來五到十年將會是一段令人激動的時間段。

福布斯深度專訪 Jeff Dean——谷歌人工智慧背後的大腦

2016 年 5 月 18 日，谷歌 CEO Sundar Pichai 在谷歌 I/O 大會上發言

High：因為取得了一些進展，人工智慧的不同目的也完成了一些，看起來一些人不再將這些成就視為真正的人工智慧。也就是，人工智慧似乎總是以未來時的語氣在討論。你將如何定義人工智慧的範圍呢？

Dean：我認為真正的通用人工智慧是能夠表現出人類水平的推理、理解和完成複雜任務能力的系統。很明顯，我們還未達到這一步，但你說已經有了很多的進展是正確的。五年前，計算機接收一張圖片然後生成人類水平的語句描述圖片還是不可能的。現在，一台計算機生成的句子可能會說：「這張圖片是一個正拿著網球拍站在網球場上的男人。」同時，一個人可能會說：「這張圖片是一個網球員正要發球。」人類的描述更為精細，但事實上計算機已經能夠產生看起來幾乎是人寫的描述語句，這已經是一個相當大的進步了。在過去五六年中，隨著人們應用的一些更為複雜的機器學習模型，我們取得很多進展，這只是其中的一個例子。因為他們使用更大的數據集和更多的計算能力運行這些模型，結果也已經變得更好了。

福布斯深度專訪 Jeff Dean——谷歌人工智慧背後的大腦

2016 年 3 月，谷歌 DeepMind 挑戰賽上，韓國圍棋大師李世石與谷歌的人工智慧程序 AlphaGo 對決。

High：你認為我們離通用人工智慧還有多遠？

Dean：這取決於你問的是誰，不同的人會給出不同的估計。我不想妄加猜測，只能給出一個寬泛的估計。我認為我們還需要 15 到 50 年——可能接近這個範圍的更低的一端。

High：你之前提到，語言是諸多關鍵要素中的一種，而且谷歌的許多人工智慧計劃也是圍繞著語言，比如閱讀、理解網頁上的所有內容或者智能化地交流和理解上下文語境。你能談一下讓機器更好地理解語言的途徑嗎？為了邁向（如果尚未完成）通用人工智慧，你預見的發展道路是怎樣的？你在這方面做著哪些工作？

Dean：我認為一件有趣的事是信息檢索領域，這是谷歌早期工作的基礎。傳統上看，這並沒有試圖真正理解用戶在點擊搜索時到底想要什麼。它更像是查找包含用戶所輸入詞的文件或意思接近這些單詞的內容。有趣的是，在最近的四五年里，我們已經開始研發出可以更好地理解「車」這個詞的本質的技術。知道「一輛車（ car ）」、「一些車（ cars ）」、「汽車（ automobile ）」、「客車（ passenger car ）」和「小型運貨車（pickup truck ）」在某種意義上是相關的，而且能以這種更流利的方式匹配文件，促成了在許多語言理解任務中的更好表現。

我們不僅能理解辭彙，還能抓住要點，理解兩個相互釋義的句子在某種意義上有相同的意思。機器開始達到我們人類理解語言的水平，我們將能夠以更多機器學習的方式推動機器理解更長篇幅的文本。

接下來幾年我們的目標是讓機器系統吸收成百上千份文件，然後能談論文件里的內容。也許系統將總結這些文件，針對文件內容提出或者回答問題。我認為這就是要真正表現出高水平語言理解所需的理解水平。

High：你和你的團隊取得的一些進展似乎已經用於谷歌的各種產品：谷歌助理——谷歌新的虛擬語音助手；Google Home——你們對亞馬遜 Echo 的回應；還有 Allo ——一款提供獲取谷歌服務的對話介面的消息應用。你怎麼看待這些最近發布的新產品和谷歌內部的試用產品？

Dean：我那時領導的研究團隊叫做谷歌大腦（Google Brain）。我們專註於構建大規模的機器學習計算系統和研究高級的機器學習技術。有這兩種不同技能的人們聚集在一起共同解決難題，取得了明顯的進步，而只具有機器學習技能或大規模計算技能的人通常不能獨自獲此成就。在我們能將這些問題在多大程度上扔給計算機程序和我們如何訓練出強大的模型解決我們關心的問題上，我認為這是讓我們團隊在兩個領域內都取得相當大的成功並推動了技術向前發展的其中一個原因。

在做長期研究時我們一直是相當機會主義的，我們懂得什麼時候我們的一些研究成果可以用於改善谷歌現在的產品。我們將和產品團隊一起工作，我們會說：「嘿，我們認為這項機器學習研究在你的產品中是有用的。」有時這是一個完全不能干涉的事情。而有時我們這個團隊和產品團隊又會深度合作，讓研究成果在產品中實現其價值。

我們團隊中的一些研究人員開發了一個模型，叫「序列到序列學習（sequence-to-sequence learning）」。這個模型的核心想法是你用一個輸入序列來預測某些輸出結果序列。聽起來有點抽象，但可以映射到許多你想要解決的真正問題。他們發表的這個研究論文最初是語言翻譯背景下的應用。輸入序列可以是一個句子的英文單詞，一次一個。該模型被訓練去輸出對應的法國單詞來創建一個法語句子，意思與輸入的英語句子相同。這不同於其他機器翻譯系統，別的機器翻譯系統往往是代碼和子件（sub-piece）的問題——也許使用了機器學習或統計模型將它拼接在一起。相比之下，這個系統是一個完全的機器學習的端到端系統，在這個系統中你投進成對的在不同語言中表達同一個意思的句子，然後系統就能學會將一種語言翻譯另一種語言。

這個通用模型在其他環境中也很有用。Gmail 團隊將它用作了一個名叫「智能回復」的功能的基礎，這裡面的輸入序列是一個傳入的電子郵件，生成序列是根據這個郵件的內容預測出的可能回復。比如，你收到一封這樣的郵件：「嗨，我們想邀請你來吃感恩節晚餐。請告訴我們你能不能來。」這個生成的回復可能是「好的，我們會來。我們能帶點什麼過來嗎？」或者是「對不起，我們來不了了，」或者是其他對應語境的類似回復。用的是相同的基本模型，只是訓練的數據集不同。

High：谷歌大腦的這個研究在谷歌其他更多的傳統產品分支中有什麼潛在的應用和突破？

Dean：我們已經開始將這個流程變得規範一點。五年前，當我們最初創建機器學習研究團隊以調查海量計算和深度神經網路如何解決問題時，公司里還沒有太多人使用這些方法。我們發現了一些用它們可以有效處理的領域，包括語音識別系統，所以我們與語音識別團隊的人密切協作，從而將深度神經網路配置為了語音識別系統的一部分，並且在識別準確率上取得了實質性進展。然後我們和各種計算機視覺相關團隊合作，比如圖片搜索和一些街景服務團隊，從而訓練模型在給定的各種圖片的原始像素下做有趣的事情——從圖片中提取文本或者理解圖片內容是什麼（美洲豹、垃圾車等等）。

有趣的是，隨著時間的推移，越來越多的團隊開始採用這些方法，因為他們總會聽說另一個團隊用這些方法取得了好結果。我們會幫助這樣兩種團隊建立聯繫，或者，提供一些關於在特定的問題情境中如何使用這些方法的基本建議。後來我們將此流程規範了一些，所以現在我們有一個專門的團隊負責外聯。這是為正在產品中嘗試這些機器學習模型的團隊建立聯繫的第一點。他們會描述他們的問題，然後外聯團隊會告訴他們：「噢，聽起來很像另外這個團隊的問題，這個解決方案會幫到您，試試並記得給我們反饋哦。」這種外聯團隊的數量正在急劇增長——從 2011 年、2012 年的幾個團隊增長到現在的 200 多個團隊，並且可能已有幾千人用我們團隊的軟體訓練過這種模型了。

High：你也是谷歌開源機器學習庫——TensorFlow 的創始人之一。像其他幾家公司一樣，谷歌正關注開源人工智慧技術的開發。請談談你對使用開源人工智慧技術的理論基礎及優勢的看法。

Dean：有許多不同的構架來表達不同的開源機器學習演算法。我認為有更多的選擇總是好的，但如果我們可以開發出能獲得機器學習社區支持，大家一起來改進的東西的話，也很好。其他許多人都在嘗試著相似的工作，所以如果我們能將重複工作的成果放在一起，構成一個許多人都會採用的庫就會非常方便。原因是這會使機器學習想法的表達變得更簡單。傳統的方式是人們寫一篇論文，談談他們有了一個想法，然後開始探索，做一些實驗，但通常他們並不會公開代碼，其他人便沒法重複這些實驗。作為一個研究者，你正在看某人的論文，並嘗試將你自己的技術與其對比。通常，因為論文中沒有代碼，你只能猜測那些代碼會是什麼。並不是作者有意隱瞞，而是論文的屬性決定了其會省略大量細節。論文中可能會有像「我們使用了低的學習率」一樣的描述，然而你關心的可能是他們是否使用了 0.0001 的學習率，在一萬步後將其降低到更小值。所以建立一個軟體架構，讓人們可以以代碼的形式表達機器學習想法並將這些研究模型和想法以可執行形式發布到這個構架中，這使得想法的交流更加通暢。

對於我們自己而言，這也使得我們與谷歌公司以外的人的合作更簡單。通常我們會招暑期實習生，在過去，他們幾乎快完成實習項目的時候，仍然在寫關於他們工作的論文。但後來他們離開了谷歌，沒法再接入谷歌的電腦了，這使得他們很難繼續完成他們的論文或者進行更多的實驗。現在他們可以辦到了，只需要使用開放源或者 TensorFlow，然後熟悉如何用 TensorFlow 表達機器學習想法的人就可能會過來幫忙。TensorFlow 正作為基礎教學工具，幫助我們教授許多谷歌工程師機器學習的知識。

福布斯深度專訪 Jeff Dean——谷歌人工智慧背後的大腦

2015 年 11 月 9 日，倫敦時任市長 Boris Johnson 在探訪谷歌位於以色列特拉維夫市的辦公室期間佩戴虛擬現實眼鏡。

High：谷歌的一個優勢是在人工智慧和機器學習上擁有大量人才。你們的研究部門負責人 Peter Norvig 曾估計說谷歌在機器學習領域擁有世界上 5% 的頂尖專家。谷歌是如何變得對人才有如此吸引力的？而鑒於人工智慧位於許多不同學科（計算機科學、工程學、神經科學、生物學、數學等）的交叉領域，你認為應該怎樣將人才和技能組合到一起，以確保你能在正確的位置上安置合適的人才？

Dean：因為我們涉足的領域很多，所以我們需要擁有多種專業知識的人。我發現，當你把具有不同專業知識的人聚在一起去解決問題時，你會發現最終得到結果比那些只具備一種專業知識的一大群人一起做出來的要好。總的來說，你最終做的事情，沒有人可以單獨做出來。我們的機器學習團隊是一個很好的例子。我們有像我一樣在建設大規模計算系統方面有很多的經驗人，然後我們也有世界級的機器學習研究人員。把這些類型的人結合起來是一個非常強大的團隊。機器學習正在接觸很多不同的領域。我們正在做的工作涉及醫療、機器人和計算機科學裡的一大堆領域，這非常的好。在我們團隊中有數位神經科學專家。

很快我們將開始一個有趣的實驗，它被稱為「谷歌大腦培訓項目（Google Brain Residency Program）」。我們正在招人到谷歌和我們的團隊一起工作一年，基本上是學習如何做機器學習研究。我們有大量的申請者，這個項目最終會留下 28 個人。他們來自不同的背景，處在事業生涯的不同階段，有人剛剛完成本科學習，有些人則讀完了博士，還有些人剛要結束他們的博士後階段，另一些人已經在不同的行業干一段時間工作。但他們也帶來了計算機科學、統計學、數學、生物學、物理學的背景。我認為這將會是一個很好的組合，在解決很多問題時都有綜合不同的觀點。

High：我很好奇，有很多不以技術為中心的傳統公司也會使用人工智慧和機器學習，你會在多大程度上與更多傳統公司工作和交流嗎？你如何看待公司對人工智慧技術的採納曲線？顯然這涉及了不同公司甚至是不同行業。但也有一些領先的傳統行業開始利用人工智慧，包括醫療、金融服務公司、有大量非結構化數據需要處理的公司。你是否曾經有機會與傳統行業的公司互動或者談論他們在更加傳統的環境中走向人工智慧的過程？

Dean：其他行業的大多數公司可能沒有像谷歌或者其他技術公司那樣應用機器學習。我認為，隨著時間的推移，最終大多數公司將採用越來越多的機器學習。因為機器學習會逐漸強大到為他們的業務帶來革新。我們已經與一些大型的醫療機構討論了建立合作夥伴關係，看看什麼機器學習可以為該領域的特定類型的問題做些什麼。我們最近推出了一個雲機器學習產品，可以讓人們在谷歌的雲基礎設施上運行機器學習演算法，顯然有許多公司有興趣了解在他們的業務的環境中怎麼使用該產品。

我認為這種轉變會發生的途徑之一是通過幾個層次，在這些層次中，你可以使用人工智慧技術和機器學習的方法來解決問題。在一些領域，了解圖像中有什麼東西對很多行業來說是普遍有用的。谷歌和其他公司正在提供使用起來比較簡單的介面，在那裡你不需要知道任何機器學習。你可以只給出一個圖像，然後說「跟我說說這個圖像」，並且任何沒有機器學習專業知識的軟體工程師都可以使用，他們得到的信息會像是「照片上有個體育場，人們在那裡打棒球，而且圖像中還有一堆文字，文字是......」即使沒有應用機器學習，這也會是非常有用的。

然後將會有已經開發好的模型，可以用公司的數據重複訓練這個模型來得到一個定製化的解決方案，而無需做核心機器學習研究來開發一個全新的模型。一個很好的例子是序列到序列的工作，現在已經應用到谷歌的六七個不同的問題中。另一個很好的例子是一個採集圖像的模型，它能發現該圖像中有趣的部分。這個通用模型的一個應用是檢測街道視野圖像中的文本在什麼位置。你想能閱讀所有的文本，但是首先你必須能在店面前，路牌上等這類地方找到它們。這種通用模型在醫療環境中也有用，比如在診斷糖尿病性視網膜病變時，你有一個視網膜的掃描圖像，你想找到該掃描圖像上的疾病指標，這時你就能用上這個模型了。用的是相同的模型結構，你只不過是在不同的數據中指出病變。你不是在用文本高亮顯示的街道視圖圖像，而是在醫生已經圈好病變部位的視網膜圖像上指出它。我認為通用模型的方法能很好地解決很多不同類型的問題。

High：在 3 月份，你至少是首次看到了 Alpha Go 在韓國取得的首場勝利。親身見證取得如此進展感覺如何？對此次如同世界博覽會一樣的展示你有什麼看法？在人工智慧廣泛應用於日常生活上，這對抓住人們的想像力、激起好奇心方面又什麼更廣泛的影響？

Dean：首場比賽我在現場，比賽日程中的一半時間我也一直在韓國。難以相信當時是多麼的激動。當時，中國有 3 億人觀看了首場比賽直播，他們有 18 個頻道在播送這場比賽，每個頻道都有不同的專業評論員。韓國也有類似的興奮。就像馬戲團一樣。

我認為這種高調的事件展示了在人工智慧相關的各類問題上取得的重大進展。我需要指出的是，Alpha Go 的大部分工作是由 DeepMind 團隊在倫敦完成的。在項目的初始階段我們給了他們一些協助，他們也使用了我們的機器學習軟體訓練 Alpha Go 的一些模型。他們也使用了一個 Tensor 處理單元（Tensor Processing Unit，TPU），這是谷歌設計的定製版機器學習硬體晶元，在某種程度上它也是這場比賽的「秘密武器」。人們正在注意到這樣一個事實，計算機有著它們四五年前還不具備的能力，這讓人很激動。全球入學計算機科學系，學習機器學習課程的學生人數也在突飛猛漲。我認為這是一件偉大的事，它不僅影響了計算機科學，還有公司以及產業內的所有事。有越多聰明的人思考這類問題，社會就會得到進步。

High：有一些人高調地發出關於人工智慧安全憂慮的警告，比如 Elon Musk、比爾蓋茨、霍金。你如何看待這種風險？當你繼續思考人工智慧相關進程時，你如何將此考慮到你的規劃中？

Dean：我想我不太深信你提到的那些人擔心的末日情境。我不認為這會成為現實。我認為人工智慧會導致社會變遷，這是之前難以實現的自動化中的最大的一個方面，這關乎到大量的勞動力。這些事情中有一些將被自動化，即使可能不是完全的自動化。計算機將能夠以各種方式提供協助，比如閱讀醫療圖像數據，這是一個非常狹窄卻需要高技能的領域。我認為計算機在不久之後會非常擅長做這個，更不要說是計算機做自動駕駛的能力了。我不確定政府是否正在謹慎的考慮這些技術帶來的影響，以及大體上它們對社會意味著什麼。我想這才是更為急切的憂慮。確認政策制定者正在認真考慮這些問題是非常重要的一步。

本文由機器之心編譯，轉載請聯繫機器之心公眾號獲得授權。

（頭圖來自 BackChannel ）

你可能還想看：

羅永浩：鎚子四年，我的遺憾與驕傲

200 元以內的智能手環，這 4 款值得購買

我們和十來家 VC 一起，為你梳理出這 50 個最具價值的新銳公司

這款另類的手機殼，讓你的 iPhone 也能運行安卓應用

沒有這 7 個 App，你還好意思當「鏟屎官」嗎？喵！