人工智慧讓人類萬劫不復？聽美國人工智慧專家怎麼說
1818年，英國女作家瑪麗·雪萊（Mary Shelley，1797—1851）在創作出文學史上第一部真正意義上的科幻小說《科學怪人》（又譯《弗蘭肯斯坦》）時，大概就預見到了人類智慧的精華——科學技術將成為人類文明自身最大的威脅。小說中，象徵科學技術的人造怪物渴望溫情與伴侶而不得，於是難抑恨意，殺害了維克多·弗蘭肯斯坦的親人和未婚妻；一手創造出怪物的維克多本是科學萬能論的虔誠信徒，卻難以阻止自己的得意之作毀掉他一生的福祉。
以「阿爾法狗」（AlphaGo）戰勝李世石為標誌，2016年被稱為人工智慧元年。世界在驚異於「深度大腦」（DeepMind）團隊的天才的同時，也不禁擔憂，人工智慧是否終有一天會如《科學怪人》中的怪物一樣，獲得自主意識，進而反噬人類？眼下，包括谷歌、百度在內的各大科技公司都在不遺餘力地投入到人工智慧研發中，多數人工智慧初創企業都以打造高度自主的軟體或硬體系統為目標，惹得史蒂芬·霍金（Stephen William Hawking）、比爾·蓋茨（Bill Gates）、埃隆·馬斯克（Elon Musk）等一眾科技界領袖紛紛轉向「人工智慧威脅論」陣營。
那麼，作為西方當代最活躍的計算機科學家和人工智慧專家之一，巴特·塞爾曼（Bart Selman）教授對此怎麼看？《科學怪人》的隱喻是否會成為現實？人工智慧是否會讓人類最終陷入萬劫不復的境地？……近日，在康奈爾大學氣勢恢宏、現代感十足的比爾與梅琳達·蓋茨大樓內，筆者有幸採訪了這位傑出的學者。
1
大勢：人工智慧的過去、現在與未來
《中國社會科學報》：「人工智慧」這個概念至少已經有半個世紀的歷史了。在20世紀70—80年代，就有人預測「人工智慧」很快會得勢，只是預測落空了。但是，這次的情境完全不同。一方面，霍金、蓋茨、馬斯克等學界和商界領袖紛紛警告「人工智慧」很可能會威脅到人類文明的存續。另一方面，臉書（Facebook）創始人馬克·扎克伯格（Mark Elliot Zuckerberg）則隔空回擊馬斯克，認為「人工智慧末日論」是不負責任的。臉書人工智慧實驗室的負責人揚·勒丘恩（Yann LeCun）也指出，類似的言論會造成惡劣影響，公眾對人工智慧的無端的恐懼將干擾科學家的研究工作。無論孰是孰非，這場聲勢浩大的論戰向公眾傳遞了一條明確的信息：人工智慧將改變人類社會的方方面面。在您看來，過去20多年裡，計算機科學究竟取得了哪些進步，使得人工智慧的普及從不可能變成必然？
塞爾曼：20世紀70年代和80年代出現了很多出色的基本理念和方法論，比如神經網路學習的概念。問題在於，當時的電腦還不夠強大。到了2010年的時候，情況變了，電腦遊戲的更新換代直接推動了電腦計算能力的提升。為了使遊戲場景更加逼真，圖像更加清晰，電腦硬體公司做了很多基礎研發工作。比中央處理器（CPU）更強大的圖像處理器（GPU）應運而生。在很長的一段時間內，它的應用僅限於運轉電腦遊戲。到了2010年，科學家突然意識到圖像處理器可以用來發展神經網路。與此同時，企業和研究機構開始收集大量的數據。比如，亞馬遜推出了眾包平台——土耳其機器人（Mechanical Turk）。全世界的網民都可以在這個平台註冊一個賬戶，完成一些小任務——比如花上幾秒，標記一個圖像，然後賺一些小錢。這樣一來，亞馬遜就獲得了成千上萬的做過標記的圖像。對演算法學習而言，這些圖像數據極有意義。
事實上，20世紀70—80年代的預測不完全是空穴來風。演算法理念已然具備，欠缺的是更強大的計算能力和海量的數據。到了2012年，發展人工智慧所需的一切要素基本都已具備：深度學習演算法、計算能力更強大的處理器、大數據集。因此，人工智慧大爆發也就是順理成章的了。眼下，人工智慧系統已經可以像人類一樣「聽」、「看」、自主地移動，並實行簡單操作。令人激動的例子不勝枚舉。
比如，亞馬遜推出的「阿列克夏」（Alexa）人工智慧助手突破了語音識別的難題。從20世紀60年代起，科學家們就開始致力於解決這個難題。但是，真正的進步也就是最近幾年的事情。亞馬遜的語音識別技術雖然算不上完美，但是「阿列克夏」的水平還是可以讓人接受的。
再比如，谷歌的人臉識別技術也取得了大跨度的進展。現在，用戶將自己的照片上傳到谷歌圖像，就可以找到和自己外貌相似的人。人臉識別技術可以應用到無人車駕駛和交通識別，比人眼的分辨能力還要強大。
提到人工智慧大爆發，當然不能不提阿爾法狗。到目前為止，它代表了深度學習的巔峰。可以說，目前人工智慧的各項技術已經進入了加速發展的軌道。業界和學界普遍認為，到2035年，手機等電子儀器的智能水準將可以媲美人腦。
《中國社會科學報》：您的意思是，20年之內，手機將變得和人腦一樣聰明？
塞爾曼：具體而言，人腦的某些功能——比如想像——仍然是電子設備無法替代的。但是，與人腦相比，未來的電子設備能更出色地完成某些任務，比如人臉識別、信息搜索，等等。
眼下，人工智慧還不能像人類一樣理解複雜的文本。研發人員在這方面下了很大的功夫。如果他們成功了，那麼電子設備將會具備人腦的另一項重要功能，即閱讀書籍和報紙。考慮到谷歌、臉書、IBM、微軟等行業巨頭每年對人工智慧系統的投資已經達到了數十億美元，且仍在逐年增加，包括手機在內的電子設備無疑將變得更加「聰明」。
《中國社會科學報》：今年3月，谷歌量子人工智慧實驗室的三位科學家在《自然》發表了題為《五年內量子技術商業化的前景》的論文。他們預測小型的量子計算機會在5年內逐漸興起。這將如何影響人工智慧的發展？
塞爾曼：量子計算機的計算能力與普通電腦的計算能力之間的關係是指數倍的關係。但是，量子計算機是稀缺設備，它不會變得像蘋果手機一樣普遍。至於量子計算機什麼時候才能達到普通電腦的普及程度，業界並無定論。如果量子計算機真能替代普通電腦，那麼所謂的「超級人工智慧」很快就會成為現實。眼下，量子計算機技術尚未完全成熟，很難給出準確的預測。
《中國社會科學報》：美國國防部高級研究計劃局前負責人阿拉蒂·普拉巴卡博士（Dr Arati Prabhakar）在著名的《連線》（Wired）雜誌上發表了署名文章，稱「機器能力與人類意識的融合已悄然發生」。就人工智慧而言，「機器能力」指的是什麼？「人類意識」的特殊之處在哪裡？兩者將沿著什麼樣的方向融合？
塞爾曼：機器的長處在於快速處理海量的數據。比如，電腦可以從成千上萬的網頁中提取出一定的模式。人類不可能在短時間內處理海量的數據，但是，人類具備創造能力和分析能力。沒有人類程序員寫出的演算法，電腦是沒辦法完成數據處理的；得到的數據，仍需靠人類分析師來進行解讀。當然，計算機行業的動態日新月異，也許數十年之後，電腦也將具備寫演算法和深度解讀數據的能力。
2
衝擊：人工智慧將顛覆就業市場
《中國社會科學報》：到目前為止，金融從業者都是職業世界的貴族。但是，橋水（Bridgewater）和黑石（Blackstone）等著名基金公司已經開始辭退人類分析師和投資組合經理，轉而引進量化分析軟體系統。計算機人才是不是要進入職業金字塔的頂層了？
塞爾曼：只懂金融的人已經不能再像以前一樣呼風喚雨了。之前被人嘲笑為「技術獃子」的理工科人才愈發搶手。他們已經開始在大的金融機構內取代金融系、經濟系畢業生。就金融分析而言，只要基金公司能收集到數據，就可以用電腦來分析，不一定非要通過人類分析師。為什麼會發生這種反轉？其根本原因在於，理工科人才可以發明和運用技術來完成程式化的工作。為什麼近年來矽谷的熱度超過了華爾街？主要原因在於像愛彼迎（Airbnb）、優步（Uber）、 來福車（Lyft） 這樣的獨角獸公司能夠運用技術來降低人力勞動的價值。大多數優步司機沒有專職的計程車司機掙得多，而重新定義人類工作生活的矽谷公司卻賺得盆滿缽滿。從歷時的角度來講，過去在商業世界佔據統治地位的公司一般是汽車製造業巨頭或者酒店業的巨無霸，它們僱傭的人類勞動力數以百萬計。自從互聯網崛起後，潮流完全變了。現在全球市值最高的公司，比如谷歌、臉書、蘋果（Apple）等，只僱傭幾萬人。這些人的平均薪資甚至高於金融業的平均水平，這難免讓人眼紅。
《中國社會科學報》：那麼，什麼時候機器可以大規模地取代人類程序員進行高端的、複雜的編程工作？
塞爾曼：這是極端困難的，可能要50年之後了。但是，毫無疑問，除了金融行業外，人工智慧還將改變很多工作的屬性，比如醫療行業。未來10年內，醫療診斷很可能將由機器代勞。從統計學的角度講，經過成百上千次的診斷訓練後，機器完全可以像人類的醫生一樣出色。
《中國社會科學報》：去年，波士頓的生命未來研究所（Future of Life Institute）發出了一封公開信，敦促政策制定者認真對待人工智慧大爆炸帶來的風險。這封公開信吸引了一萬多人簽名。特斯拉（Tesla）和太空探索技術公司（SpaceX）創始人馬斯克的名字赫然在列。您也是這封公開信的簽署者之一。您參與這項活動的初衷是什麼？
塞爾曼：讓我用一個例子來回答你的問題。今年1月的時候，日本的一家保險公司宣布，將在3月之前裁掉34名員工，轉而使用IBM 開發的人工智慧系統「沃森」（Watson）來處理原先他們負責的業務。這樣的新聞讓人擔憂。很明顯，保險業務並非那麼簡單明了，也不是任何人都能勝任。保險行業的從業人員需要經過大量的訓練。而IBM現在可以向全世界數以百萬計的保險公司出售這個系統的使用權，取得豐厚的利潤。當經濟發展的大勢面臨轉折點的時候，使用人工智慧將比繼續使用人類勞動力便宜很多。一旦廣泛的成本差異成為板上釘釘的事，人工智慧就會以超乎想像的速度得到普及。這肯定會影響到人們的工作和生活，進而會影響到整個社會的運轉和演化。
《中國社會科學報》： 事實上，人工智慧不僅威脅到了量化分析類的工作。翻譯和法律助理等偏重文字處理的工作也變得岌岌可危。
塞爾曼：口譯、筆譯、法律助理、初級醫師這一類的工作處於職業金字塔的中游位置，工作的內容比較固定和程式化。從業人員須具備一定程度的教育背景和知識、技能儲備，拿到的薪資也相當可觀。這就意味著，用人公司有足夠強烈的動機用人工智慧來取代他們。
《中國社會科學報》：藍領工作似乎更是難以倖免。今年3月普華永道發布的一份報告稱，未來15年內，人工智慧將顛覆美國、德國、英國、日本等發達經濟體的就業市場。美國首當其衝，38%的勞動人口將面臨失業危險；德國緊隨其後，35%的就業機會受到威脅。您如何看待這類預測？
塞爾曼：你說的沒錯。以無人駕駛為例，在美國，1/10的工作與交通運輸直接或間接相關。去年12月，白宮發布的一份報告稱，無人駕駛技術可能奪走310萬個工作崗位。其中，170萬司機可能最先失業。當前大熱的矽谷獨角獸優步提供了近百萬的註冊司機崗位；但是，一旦無人駕駛技術完全成熟，這家公司可能會成為裁汰人類勞動力的急先鋒。學界、業界、政界普遍認為，在未來的10年內，絕大部分交通運輸方面的工作將被無人駕駛技術取代。這引發了普遍的擔憂。如果這些工作消失了，社會將如何適應呢？——很難給出確定的答案。
在人工智慧興起之前，電子商務的繁榮已經使實體零售業飽受打擊。人工智慧興起之後，那就不是幾千個、幾萬個工作的問題；而是幾十萬個、幾百萬個工作的問題。
在美國的實體零售業萎縮之前，其製造業的衰退已經持續了至少40年。原先擁有體面薪水的製造業工人不得不接受低薪的服務業工作。然而，即使是這些低薪的服務業工作，今後也面臨著被人工智慧取代的風險，這著實令人擔憂。
也許，中國可以更好地解決人工智慧對社會造成的衝擊。
《中國社會科學報》：斯坦福大學人工智慧研究中心的尼爾斯·尼爾森（Nils Nilsson）教授將人工智慧定義為「關於知識的科學——怎樣表示知識、怎樣獲得知識、怎樣使用知識的科學」。現在看來，人工智慧處理知識的能力毫不遜色於人類。麻省理工學院的帕特里克·溫斯頓（Patrick Winston）教授認為：「人工智慧就是研究如何使電子設備完成曾經只有人類才能完成的工作。」隨著資本大量湧入和人工智慧相關產品不斷開發，電腦似乎將變得無所不能。那麼，在人工智慧崛起的大前提下，您覺得什麼樣的工作受到的衝擊較小，且前景相對光明？
塞爾曼：任何行業的高端工作仍將由人類來完成，因為完成高端工作需要深邃的洞見力和靈動的創造力。以新聞行業為例，機械性的體育賽事報道，完全可以由機器人來代替。但是，機器人不可能取代人類來完成深度新聞調查和高端訪談。
此外，偏重人際互動的工作，比如心理諮詢師、社會工作者、護士等，人類明顯更能勝任。畢竟，冷冰冰的機器不能滿足人類的情感需求。
3
應對：向融入人類生活的方向發展
《中國社會科學報》：美國的很多人力資本和金融資本都流向了人工智慧領域。而事實上，美國不存在勞動力短缺或者人口老齡化的問題，因此也就不需要用人工智慧來取代人類勞動力。但日本和西歐就不同了，它們都面臨著適齡工作人口萎縮的窘境。您認為人工智慧的發展會給西歐和日本帶來怎樣的變化？
塞爾曼：人工智慧對日本而言絕對是件好事，日本的老齡化問題實在太嚴重了。西歐國家也沒有理由拒絕人工智慧。畢竟，西歐是工業革命的發源地。工業革命得以發生與延續的根本原因在於機器解放了大量的農業勞動力。兩個世紀以前，西歐的農業人口佔總人口數的比例不會低於50%。而現在，西歐國家的農業人口只佔總人口的3%。3%的人口加上高度機械化的農業作業，不僅滿足了西歐國家自身的食品需求，還能滿足世界各地對高端農產品的進口需求。同理，人工智慧的發展也能將人類從重複性、程式化的工作中解放出來，並滿足人類其他方面的需求。不僅是日本和西歐，沒有哪個國家有理由拒絕人工智慧。
《中國社會科學報》：和中國、美國、日本相比，西歐國家對人工智慧的熱情似乎沒有那麼高，在這方面，西歐人似乎並不想努力爭先。
塞爾曼：西歐國家做什麼都不緊不慢，但這也許是件好事。矽谷雄心勃勃地想要用人工智慧取代20%以上的人類勞動力，這樣的野心極具破壞性，也許會讓美國陷入危險的境地。
另外，到底應該如何分配人工智慧創造出的財富，單就解決這個問題而言，美國比日本、西歐、中國面臨更多的困難。
中國政府會怎樣解決人工智慧對社會造成的衝擊？我很好奇。
《中國社會科學報》：今年2月，比爾·蓋茨在接受採訪時稱，如果機器人大量搶奪人類的工作，那麼政府應該向機器人徵稅，然後將稅款用在勞動力再培訓上。您如何評價蓋茨的建議？
塞爾曼：如果社會的絕大多數人沒有體面的工作，不得不降低生活水準，那麼他們必然會要求財富精英——尤其是那些靠人工智慧起家的科技大亨——繳納更高的稅款，這是無可厚非的。
「向機器人徵稅」——這個說法有些古怪。不過，向那些經營機器人製造及大量使用機器人的公司和企業家徵稅倒是絕對可行的。但是，在美國的政治體制下，要實現這個想法並不容易。
另外，「全民基本收入」的構想已然進入社會議程。臉書的創始人扎克伯格在哈佛大學演講的時候特別提到了這一點。政府制定的收入標準必須能保證大多數人過上衣食無憂的生活。「全民基本收入」政策不僅不會成為人工智慧發展的桎梏，反而會是後者的福音。一旦人們有了理想的生活保障，就不會過度恐懼人工智慧的進步和大規模應用了。
《中國社會科學報》：今年7月，馬斯克對美國的政界領袖表示，人工智慧很可能會威脅到整個人類文明的存在。早在2014年12月，霍金就警告說，人工智慧可能會成為人類社會的「終結者」。去年10月，霍金稍微變換了一下口風稱：對人類而言，人工智慧要麼是最好的禮物，要麼是最致命的威脅。但是，整體而言，霍金對人工智慧的看法是相對負面的。很多人擔憂，不久的將來，科幻小說鼻祖《科學怪人》中的毀滅性結局會在人類社會中上演。您是樂觀主義者，還是悲觀主義者？
塞爾曼：我是個樂觀主義者。下一個世代無疑將受益於人工智慧的發展。比如，相比更容易出錯的人類司機，廣受爭議的無人駕駛技術可以減少90%乃至更多的事故。如果機器可以代替人類完成一系列機械性的、重複性的工作，那麼人類將獲得更多的自由時間。使用人工智慧，社交網路公司能夠實現用戶興趣的精準匹配；手機人工智慧助手能讓人類更好地享受旅行。人工智慧的發展會讓人類的社交和休閑生活更加豐富有趣。如果人工智慧給醫療行業帶來質的飛躍，那麼人類就不用生活在各類疾病的威脅之下。這樣的例子還有很多很多。
眼下，人類和機器正處於蜜月時期，兩者各有貢獻，相輔相成。問題在於，如果機器的能力進一步提升，人類的貢獻有可能變得可有可無，那麼人類的角色則有可能被完全取代。
這就是為什麼人工智慧安全研究特別重要的原因。康奈爾大學已經得到了馬斯克的資助，將開展名為「確保人工智慧造福於人類」的課題研究。研發人員正致力於確保人工智慧系統與人類親和且無自主性。避免人工智慧自定目標是系統設計的關鍵。學界和業界都希望人工智慧向著融入人類生活的方向發展。
淺層人工智慧和預想中的超級人工智慧可能會在某些方面勝過人類。那又如何？我們都認識一些在某些方面遠勝自己的聰明人，如果我們能和他們和平相處，那麼為什麼不能與聰明的機器人和平相處呢？如果收入分化加劇的問題能得到很好的預防和解決，人類就能充分享受人工智慧發展帶來的種種好處。當然，還要阻止人工智慧被大規模地應用于軍備競賽。目前，很多頂尖工學院都開設了人工智慧倫理一類的課程。我相信，下一代研發人員能比他們的前輩更加出色地處理伴隨人工智慧發展而來的種種社會文化和倫理道德難題。
原題：探索融合：全球人工智慧發展前沿——訪美國著名人工智慧專家、康奈爾大學教授巴特·塞爾曼
來源：《中國社會科學報》
TAG:中國學派 |