奇點大學人工智慧講座：AI如何增強人類能力

科技 06-19

人工智慧學家

作者：Peter High翻譯：Younger

審校：心原文：forbes

人物簡介：

Peter High是商業和IT諮詢公司 Metis Strategy的總裁。最新書籍《 Implementing World Class IT Strategy》已經由Wiley Press/Jossey-Bass出版社出版。他也是 World Class IT: Why Businesses Succeed When IT Triumphs一文的作者。他曾在業內全世界各地會議上發言。

奇點大學位於矽谷的NASA Research Park ，一部分功能是商業孵化器，一部分是智囊，2008年收到Peter Diamandis 和 Ray Kurzweil的投資。該大學關於人工智慧的課程逐漸成為數量最多的課程。

Neil Jacobstein 曾是奇點大學校長，目前擔任位於加州山景城的NASA Research Park園區的 Artificial Intelligence and Robotics Track 主席。以下是對他的採訪內容，其中包括他認為AI如何增強當代人類能力，企業總監應該以怎樣的戰略技術思考AI, 政府在面對AI可能造成的失業問題時應擔任怎樣的責任，他對一些思想領袖認為人工智慧存在風險怎麼看，以及員工應該如何為AI趨勢做準備等多個話題。

Peter High：我們先談下奇點大學。2010年到2011年你是該校校長，現在是Artificial Intelligence and Robotics track的聯合主席，可以談下這個大學和你所擔任的角色嗎？

Neil Jacobstein ：大概是2008年，奇點大學啟動了 NASA Research Park。2009年第一批研究生暑期項目啟動。該大學宗旨是，幫助領導者對指數級技術進行應用，理解商業，科技和道德的含義。指數級技術是指每18個月到24個月內性價比會提升的技術。比如人工智慧，機器人，合成生物學，納米技術等其他技術。比如生物學已經成為一種信息科學，其能力正以指數級曲線增長。

奇點大學人工智慧講座：AI如何增強人類能力

每幾個月舉行一次總裁項目，我們邀請了全世界的企業領導出席。項目通常有80到100個人參加，持續時間約為5天。還有一個9周長的暑期項目，2009年開始我們就一直舉辦，通常有80人參加。參與者常常是因為在國內獲獎而獲得參加項目的機會。我很驕傲的是，項目中的女性比男性數量還要多一點，男女比例越來越平衡。參與者來自40多個國家，都是最優秀的最有競爭力的學生。付費是不能進來的。該項目由谷歌和其他公司以各種形式資助。參與者住在Moffett Field的NASA research park 園區，首先他們會對指數級技術進行幾周的了解，包括AI，機器人，合成生物學，納米技術等以及依賴這些技術的技術，比如能源，製造業，3D列印，醫藥。然後與其他人或非盈利機構合作建立下一代企業。他們會使用指數級組織的原則，根據眾包等迅速建設和擴大機構的規則組建團隊。然後致力於解決氣候變化，教育，貧窮，全球健康，能源，安全等重大挑戰。應對這種大規模的問題，只有指數級科技有能力提供解決方案。夏季項目中，每個團隊中的學生可能至多20個，會有大量教員和職工輔導。然後如果他們符合某些選拔標準，可能會去參加一個園區的孵化器項目。每年都會出現幾個成功的企業。我們很驕傲能有這個項目，而且情況越來越好。

High：Salim Ismail所著的《Exponential Organizations 》一書提到，AI和演算法可以用來減弱和彌補人類認知能力中啟發（heuristics ）的不足，比如錨定偏差，能力偏差，確認偏見，成本偏差等。作為AI專家，能否解釋下這個想法，以及AI和演算法如何應對這些問題？

Jacobstein ：現在雖然有幾種AI輔助人類的方式，但未來會更直接，AI將成為人類決策制定的夥伴。可以想像，如果一個企業會以證據為基礎制定決策，而不是依賴經理們和董事會自己一大把的想法，那麼他們可能會用AI進行模式識別，這樣可以更好地避免偏差，關注到人類自己難以觀察到的模式。

AI可以用來識別人們論斷的反事實。如果你有一個決策制定所需的問題表，你就可以識別反事實，使用AI構建一個模型，然後標出證據鏈中所有的薄弱環節。 25年前，NASA 挑戰者號就是這樣，好幾次拖延發射，人們壓力很大，當時天氣也很寒冷。一個工程師表示天氣寒冷的情況下，O形環可能失效，給運載火箭帶來風險。測試結果也表明發射的壓力比正常情況下要大。但Morton-Thiokol 和NASA的一些代表仍然決定按原計劃發射，導致後來7個飛行員全部犧牲。這場災難過後，NASA重新檢查了發射建議協議，改變了決策制定流程。他們並未立即使用AI技術，而是使用了性能優良，而傳統的人類決策流程，並且更加細心。我相信，未來人們可以藉助於模擬技術和人工智慧檢驗人類的假設。我越來越覺得著這一定會發生，當然，軍隊已經使用這項技術很久了。

High：媒體中很多人都用「人類Vs機器人」這樣的字眼。你曾說人類的大腦新皮層像餐巾紙那麼大，在過去50000年來都沒有變化，通過使用AI等新興技術，有望演變成桌布般大小甚至更大，可否再說下你這個觀點？

Jacobstein ：澄清一下，過去50000年來人類大腦有所變化，但變化很慢。基本架構維持不變，而且人類大腦結構的歷史不止50000年。大腦會在不同的環境下演變。幾百萬年前和50000年的自然選擇壓力與今天我們看到的絕對不同，現在對信息處理的需求非常多，我們真的需要有一些辦法提升能力了。

「更大的晚餐桌布」指新皮層的表面積大小而不是整個大腦的大小。我說增大新皮層表面積，不是指讓大腦的表面積增加，而是人類模仿新皮層或其行為的能力會增加，這些行為包括模式識別行為和問題處理行為等。一旦構建了人工新皮層，就可以在虛弱的部分擴大其面積，讓人工新皮層達到桌布，房間，城市的大小甚至更大。也就是說，可以已有的計算機構將其人工擴大。

High：如果我理解正確，你是說人類的心智會和技術協同工作，而技術可以讓我們以一些真正有趣的新方法處理問題。

Jacobstein ：是的。我想告訴人們的是，他們應該將AI看做一種增強能力，看做人類信息處理的合作夥伴。AI有其他優勢，如速度更快，處理信息更多，保留時間更久，內存更大等，人們可以利用它增加自己決策制定的能力和大腦的能力，而不用換一個大腦。或許我們可以用合成生物學換大腦，但是我認為目前提高大腦能力實用的方式是使用機器學習。

High：通過在奇點大學工作，你見了AI和機器人產業中很多高端機構，他們用很多有趣而讓人激動的方式進行著創新。我們討論的還處於初期階段，然而很多例子都表明，技術正在帶給我們價值。對於更傳統的企業中的科技總監來說，你會給他們什麼建議實現AI？你有沒有見過沒有AI投資或部門的大型機構開始與AI行業內的企業合作？目前狀況如何？

Jacobstein ：我是斯坦福大學的訪問學者，還為紐約西奈山的 Harris Center for Precision Wellness 德勤等機構做顧問。大約過去25年來，我曾見過很多用AI技術以各種方式提升業務能力的案例。

其中一個與改變用途藥品有關。如果你能獲取腫瘤序列和癌症患者的基因，就可以用機器學習尋找靶點，即細胞表面抗原（不同地方的腫瘤的細胞表面抗原相類似）。你或許會發現，如果一種藥物對應某個目標細胞，而同一個腫瘤家族遷移後，如果細胞表面抗原相同，那麼你可以改變使用該藥物的方式，在這裡也使用它，會得到同樣的效果。這是斯坦福大學 Joel Dudley和 Atul Butte 的傑作，已被驗證成功多次，Joel 現在仍然在進行研究。

還有好幾個關於消費品公司的例子，這些企業需要購入各式食物和飲料，以及大量大豆，堅果等農產品，他們可以用AI改變購物比例，完全根據顧客的想法維持食物的酸度，香氣等，根據市場中的價格購買不同商家的豆類。消費品和工業產業種類繁多，使用AI和機器學習有望讓業務更高效。

還有一個廣泛應用AI的例子是「金融科技」（fintech）。每年六月左右，奇點大學就會開一場關於指數級金融的會議，探討金融產業應用AI和機器學習幫助人們做決策的案例，而這些技術是否能夠幫助貿易商以光速作出金融決策，或幫個人得到真正有用的建議，則是由企業的參數選擇和風險概況決定的。幾乎所有的大型金融機構都會使用這些所謂的「機器人顧問」。比如嘉信理財（Charles Schwab）啟動系統的時候，使用金融建議的客戶提升了20%，而且很多是新客戶，這是機器人顧問的力量。這樣的例子有很多。

High：這些案例很精彩。最後這個例子讓我想到，很多情況下科技都在取代人類的工作。我覺得，曾經是金融諮詢師的人，該做與科技互補的工作應該不會感到困難。然而，我感興趣的是，你曾提到的這些創新可能會導致工作流失，你認為人們怎樣如何思考這件事，政府應該承擔怎樣的責任。

Jacobstein ：我認為我們需要謹慎而積極地進行規劃，不能恐慌或者歇斯底里，我認為人們經常不積極面對。你可以將AI當作一種增強。很多時候人們需要和其他人一起做決定，他們會談談自己的家長里短，未來規劃等，而AI還不能理解家庭狀況，聲音音調，還有人類溝通的微妙性等。因此很多機器人金融諮詢師都被貼上了金融機構的白標（指一方提供產品，由另一方用自己的品牌進行銷售），客戶的前台界面則是由機器人諮詢師增強的人類諮詢師提供服務，這樣效率會提高，諮詢會更深入，因此有一些金融諮詢師會失去工作，但不是所有人。

談談那些失去工作的人。我認為對於有工作的科技人員來說他們可能並不擔心，但這個問題很重要。過去人們從農場轉到工廠的時候，只是重新組織大腦和肌肉做不同的事情，工作需要的體力減少，而使用更多智力。工人們在工廠中培訓以後可以過渡地很好。後來又發生了工廠到白領工作的轉變，同樣地體力勞動再次減少，而所需的培訓教育等再次增多，做白領工作的人越來越多。

如果說白領工作趨勢也會改變，我認為那個時候人工智慧將會以合夥夥伴的角色，幫助人們大幅度提高工作能力。這是個可行的方式，意味著很多人將繼續自己的工作。然而，這也意味著做（特別是在常規工作與需要高級技能的工作比例較高的發展中國家）常規工作的人面臨的被自動化取代的風險更大。我認為，關鍵問題是，人們要進行關於機器的培訓，學會與機器合作，增加人類的認知能力，而不是一味地與其競賽。我認為如果人們能夠這樣做，同時政府更積極地為人們提供普及教育，而且網路和AI技術讓這種教育越來越便捷，我們將能夠更好地適應新工作和創造新的工作。我認為我們能讓人們有這樣的觀點，創新能夠帶來更多可能性。還有很多領域充滿創造新工作的潛力，比如改善環境，包括海洋狀況等，可以有更多的人去清理海洋垃圾，照顧老人，小孩等。因此如果我們更有創造力，更加積極，我們還有很多事情要做。

AI，機器人，合成生物學甚至納米技術，精密製造等各種指數級技術，將會創造出無數財富分享給需要的人們，我並不是說共產主義或者均分主義。人們工作越投入，就會有更有創造力。我認為在資本主義系統中人們非常需要被獎勵，我就是一個資本主義者。但我認為需要為人們設好底線，確保人們能夠接受一流的教育和醫療。科技在這方面發揮著重要的作用，比如AI通過移動健康應用讓醫療更加便捷，3D列印技術有助於臨時庇護所的建造等。雖然世界上的財富仍然不會平均地分配，但我們能夠經濟實惠地為人們提供教育，醫療，庇護所，會有更多高效的工具，不再缺少必要的物資。對每個人來說，世界將會更穩定和安全。

我們有很多人過著疲睏疾苦的生活，導致很多人成了激進分子，這對他們自己和富裕的人都不好。我認為確保每個人都有好的生活是有遠見的想法，長遠來看對每個人都有利。

High：你提到很多人都不同程度地擔心AI的安全問題，比如思想先鋒馬斯克，霍金，Nick Bostrom（牛津大學哲學家）等。你認為目前這些擔憂有誇大嗎？

Jacobstein ：我認為 Nick 並不是要拉響AI的警鈴，人們經常會錯誤理解其中的差別。他說的是未來超級智能的能力，他並不是說不能研發AI，而是應該更積極主動地將工程安全特徵放到系統中，讓機器聽從人類指揮而不是自行其是。

去年1月在波多黎各的聖胡安，他，馬斯克和Jaan Tallinn 一同舉行了一場會議，邀請了約50名AI研究人員。我們花了3天時間思考AI的風險，探討可以直接解決問題的方法。我們確認了四個關鍵的研究領域。一個是查證（verification）：確認AI軟體非常精確地符合某個具體規格。第二是驗證（validation）：用數學證據確認規格本身有效，沒有有害的行為漏洞。第三是安全（security）：保護系統不會受到來自內部和外部的攻擊。第四是控制（control）：設計之初假設某個功能會出錯，在不同的層面準備十幾個冗餘的方式重新設置控制指令。

安全工程不止這些方面，但這是個很好的開始。成為這些強大的技術領域的企業家和管理者，應該仔細思考AI的倫理性以及安全性。合成生物學，納米科技，機器人等也是如此，每種技術都有正面與反面，我們需要取其精華去其糟粕。

超級智能方面目前的難題是，我們希望能夠有超快的相應速度，也就是說我們將會讓AI監控AI。這並不奇怪，我們已經這樣做了。電腦上的抗病毒軟體，就是監控AI代碼片段即病毒的代碼。目前雖不完善，但總的來說我們已能相對安全地操作計算器械和網路，雖然還有某些人試圖構建惡意軟體攻擊這些系統。好的一方面是，創造世界保家衛國的人，比想破壞世界構建惡意軟體或AI的人要多的多。基於這個比例，我認為可以這樣做。我們不會居住在一個完美的世界，但坦白說，我認為會居住在一個比今天要好的多，乾淨的多，更加安全和健康的世界中。

High：作為一個對人工智慧作出如此多思考，認為常規工作可能被科技取代的人，我想知道，在你自己的生活中，這些將會以什麼形式體現。你會思考讓科技做你一直做的事情？你在創新世界中的洗禮，對你日常生活有怎樣的影響？

Jacobstein ：很久以前，我就開始不再認為AI和機器智能只是一種工具，必須把什麼都教給它的。如果還要提供一個標準的工具箱，有電鑽，有扳手，斧頭，那麼基本上你也貢獻了所有的腦力。通過使用AI和機器學習，我們能夠將工作發放給這些系統，還可以控制不同任務的級別，提高任務的多樣性。這點已經體現出來了，人們可分配的任務種類越來越多。當今的助理技術還比較基礎，如Siri，谷歌的Now，亞馬遜的Alexa，或者微軟的Cortana。它們可以為用戶做查找等相對簡單的事情。有一個日程助理Amy可以執行相對複雜的行程安排任務，但還不熟練，最終一定會有應用達到這個水平。我認為我們逐漸不再將AI當成工具，而是視其為助理或同事。

很久以前，美國空軍有一個名為Pilot』s Associate 的項目，其中大多數的飛行任務都由AI接管。現在我們的注意力轉移到了汽車。比如我的特斯拉汽車，使用的是初級指令或簡單的無人駕駛功能，並未完全自動化，我還不能直接跟它說帶我到某處。谷歌無人駕駛汽車是真正的無人駕駛，能夠以更高的安全記錄執行人類之前操作的任務。谷歌的無人駕駛汽車已經總計安全行駛了100多萬英里。目前美國每年都有33000人死於車禍，全世界則為120萬人，但這些事故很多都是因為醉酒駕駛或者開車分心，都可以避免。使用AI技術我們可以大幅度地削減這個數字。商業航線的很多駕駛員都讓自動駕駛功能執行大部分飛行任務。

High：很棒的例子。正如你跟那些有意應用這些技術的企業主管討論的一樣，你會建議IT工作者進行那些培訓？

Jacobstein ：是的，企業可以做很多事情。其中一個就是，進入到某個創新團體中，比如奇點大學的針對企業的LABS項目等，在這裡，他們會與極具創新能力的團隊生活在一起，時刻探討著簡明高效的創意，還會獲得指數級創新或與指數及創新有關的嚴格的指導方法。

另外一個就是，他們可以請對AI有興趣的人參加我們的項目面向企業總裁的項目或暑期項目等，或者去參加我們在世界各地舉辦的峰會，還有很多別的機會。比如，Coursera ，Udacity， Khan Academy ，EdX上都有很棒的AI項目。通常情況下這些項目免費開放，用戶可以付費獲得認證。你在家就可以下載R編程套件學習，使用平板電腦學習機器學習。如果你沒有對應的編程技能，可以使用Rstudio 處理R套件的一些問題。有很多辦法可以開始學習。還可以使用IBM Watson等面向多領域的高效平台，或者使用Sentient ，Viv 實驗室（還在研發，但我認為將來可以使用）等。平台的意義在於，大量的基礎設施編程都已準備好。如果你在企業工作，可以做更高級別的事情，比如解決特定問題時使用Watson，Sentient 這些系統，大規模地處理問題，得到全局的解決方案等。我認為，有很多機會可以在該領域快速進步，而且可以既安全可靠又價格實惠。很多企業有內部顧問師，比如通用電氣有一個非常棒的AI團隊，現在幾乎所有的汽車公司都有自己的AI團隊，福特，豐田等也有。而且這些公司通常有實驗室項目，其他與AI不相關的部門的人可以與實驗室合作一起解決問題。

High：那麼在這種機遇與危險並存的情況下，個人應該如何未未來做準備，比如說你會建議有孩子的家長應該做些什麼?

Jacobstein :我認為家長可以鼓勵孩子，發展對學習的喜愛，這應該是最重要的，還要發展他們的批判性思維。我認為不管是在吃飯，坐車旅行還是在森林中漫步都可以開始這種訓練。讓他們形成習慣。還有，幫助孩子提高問問題，設計全新問題的能力，學校在這方面做得不好，學生不知道拋出一個擲地有聲的問題需要什麼。我認為如果對其進行教導，孩子們完全可以做到。

指數級科技不斷到來的世界中，還有一件事情很重要，孩子應該接受紮實的STEM教育，即科學，科技，工程，數學。我還想加上道德規範學。我注意到，新的一代人已經長大，但沒有在學校中學到關於道德的知識，因為學校通常沒有這種課程。他們不再去主日學校（基督教教會為了向兒童灌輸宗教思想，在星期天開辦的兒童班），吃飯的時候有時候沒有禮貌，他們能去哪裡學習道德知識呢？如果沒有這方面的教育，我們的社會將會面臨問題。因此我認為應該在孩子小的時候就培養他們的道德素養，不一定以宗教的形式，但是要根據日常市場生活中的例子和未來的情況進行教育。奇點大學為企業高管開放的工作室，和為學生開放的Global Solutions暑期項目中都有教授這種課程。

還有一個方面是，人們經常會問如果AI失去人類控制怎麼辦。我曾提到有一個團體正致力於這個問題，是一個名為AAAI（Association for the Advancement of Artificial Intelligence）的道德委員會。該協會中有人在寫關於的安全工程的書籍或文章，讓人們知道AI界並沒有忽視這些問題。但我們還要知道，好萊塢電影很擅長嚇人，因為人們喜歡害怕時內啡肽帶來的刺激，喜歡讓自己的神經系統經歷一個半小時的過山車，這也是電影能賣票的原因。人們需要意識到，好萊塢電影描寫AI的時候並不會以現實和客觀為基礎。人們經常問我是什麼支撐著我晚上還能工作。我告訴他們我晚上熬著夜不是在擔心AI或機器學習。我會熬夜思考人類的愚蠢，自私和不理性。正確地處理這些問題很重要，我們需要堅定地支持那些以理性和符合道德的方式處理問題的人。如果我們能夠堅持這樣做，我們的人工智慧也會很有可能有這樣的表現，特別是我們的安全工程也很優秀的時候。

歡迎報名6月28日創新項目微信群路演，面對近百位著名投資人展示

第一期「創新項目與風險投資家見面會」將在6月28日舉行，AIE實驗室歡迎創新科技項目負責人屆時參加風險投資家微信群項目路演，報名請點擊本文左下角」閱讀原文「

AIE實驗室邀請近100位著名風險投資家和天使投資人加入創新項目展示群，其中包括高榕資本合伙人張震、英諾基金創始合伙人李竹、峰瑞資本創始人李豐、真格基金創始人徐小平、360公司創始人周鴻禕、獵豹移動CEO傅盛、軟銀賽富投資基金合伙人羊東、老鷹基金創始人劉小鷹、前北京聯眾總裁，著名天使投資人鮑岳橋、羅輯思維創始人羅振宇、美團網創始人兼CEO王興、諾基亞成長基金董事總經理及合伙人鄧元鋆、紫牛基金合伙人張泉靈、金沙江創業投資基金合伙人朱嘯虎等人。

創新項目獲得風險投資關注

報名請點擊本文左下角」閱讀原文「

人工智慧學家Aitists

人工智慧學家是權威的前沿科技媒體和研究機構，2016年2月成立人工智慧與互聯網進化實驗室（AIE Lab)，重點研究互聯網，人工智慧，腦科學，虛擬現實，機器人，移動互聯網等領域的未來發展趨勢和重大科學問題。

長按上方二維碼關注微信號 Aitists

投稿郵箱：post@aitists.com