霍金5大預言和兩場中國演講：警惕AI、探索宇宙

英國媒體報道，3月14日，英國物理學家史蒂芬·霍金去世，享年76歲。生前的最後幾年，霍金留下了幾個預言，重點關注了地球的未來、人工智慧對人類的影響和人類的宇宙探索。他也多次在演講中呼籲，人類應該把主要精力放在探索宇宙和科學，而非戰爭或是破壞地球的生態環境。

［地球滅亡］人口過剩，資源緊張，能源過度使用，加速地球滅亡，2600年後，地球將因能源耗盡，大氣層破壞而變為一顆燃燒著烈焰的行星。

［遠離AI］人類千萬不要踏入人工智慧（AI）領域，我們更不能依賴機器，這會使人類退化，AI總有一天會取代人類，人類會被AI以伸張正義的方式滅絕。

［核武器］核武器是人類捍衛領土的終極武器，但核武器頃刻間會令一切化為烏有，研究我們無法控制的武器，最終的結局就是人類自取滅亡。

［探索宇宙］人類應該邁出地球，去宇宙中尋找人類的第二家園，如果安於現狀，就會遭遇6500萬年前恐龍滅絕的情況，人類文明頃刻間倒塌。

［全球變暖］全球變暖正在發生，人類開始改變環境但行動太慢，而且科技已經無法阻止環境變化。人類將在不到百年間被新文明取代。

（＊當然，霍金的預言也招致了很多爭論）

2017年4月，霍金教授專門為GMIC 北京 2017大會做了主題為「讓人工智慧造福人類及其賴以生存的家園」的視頻演講。以下為當時的演講全文：

在我的一生中，我見證了社會深刻的變化。其中最深刻的，同時也是對人類影響與日俱增的變化，是人工智慧的崛起。簡單來說，我認為強大的人工智慧的崛起，要麼是人類歷史上最好的事，要麼是最糟的。是好是壞，我不得不說，我們依然不能確定。但我們應該竭盡所能，確保其未來發展對我們和我們的環境有利。我們別無選擇。我認為人工智慧的發展，本身是一種存在著問題的趨勢，而這些問題必須在現在和將來得到解決。

人工智慧的研究與開發正在迅速推進。也許科學研究應該暫停片刻，從而使研究重點從提升人工智慧能力轉移到最大化人工智慧的社會效益上面。基於這樣的考慮，美國人工智慧協會（AAAI）於2008至2009年，成立了人工智慧長期未來總籌論壇［原文：PresidentialPanel on Long-Term AI Futures］，他們近期在目的導向的中性技術上投入了大量的關注。但我們的人工智慧系統的原則依然須要按照我們的意志工作。跨學科研究可能是一條可能的前進道路：從經濟、法律、哲學延伸至計算機安全、形式化方法，當然還有人工智慧本身的各個分支。

文明所提產生的一切都是人類智能的產物，我相信生物大腦總有一天會達到計算機可以達到的程度，沒有本質區別。因此，它遵循了「計算機在理論上可以模仿人類智能，然後超越」這一原則。但我們並不確定，所以我們無法知道我們將無限地得到人工智慧的幫助，還是被藐視並被邊緣化，或者很可能被它毀滅。的確，我們擔心聰明的機器將能夠代替人類正在從事的工作，並迅速地消滅數以百萬計的工作崗位。

在人工智慧從原始形態不斷發展，並被證明非常有用的同時，我也在擔憂這樣這個結果，即創造一個可以等同或超越人類的智能的人工智慧：人工智慧一旦脫離束縛，以不斷加速的狀態重新設計自身。人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代。這將給我們的經濟帶來極大的破壞。未來，人工智慧可以發展出自我意志，一個與我們衝突的意志。很多人認為人類可以在相當長的時間裡控制技術的發展，這樣我們就能看到人工智慧可以解決世界上大部分問題的潛力。但我並不確定。儘管我對人類一貫持有樂觀的態度。

2015年1月份，我和科技企業家埃隆·馬斯克，以及許多其他的人工智慧專家簽署了一份關於人工智慧的公開信，目的是提倡就人工智慧對社會所造成的影響做認真的調研。在這之前，埃隆·馬斯克就警告過人們：超人類人工智慧可能帶來不可估量的利益，但是如果部署不當，則可能給人類帶來相反的效果。我和他同在「生命未來研究所」擔任科學顧問委員會的職務，這是一個旨在緩解人類所面臨的存在風險的組織，而且之前提到的公開信也是由這個組織起草的。這個公開信號召展開可以阻止潛在問題的直接研究，同時也收穫人工智慧帶給我們的潛在利益，同時致力於讓人工智慧的研發人員更關注人工智慧安全。此外，對於決策者和普通大眾來說，這封公開信內容翔實，並非危言聳聽。人人都知道人工智慧研究人員們在認真思索這些擔心和倫理問題，我們認為這一點非常重要。比如，人工智慧具有根除疾患和貧困的潛力的，但是研究人員必須能夠創造出可控的人工智慧。那封只有四段文字，題目為《應優先研究強大而有益的人工智慧》的公開信，在其附帶的十二頁文件中對研究的優先次序作了詳細的安排。

在過去的20年或更長時間裡，人工智慧一直專註於建設智能代理所產生的問題，即在特定環境下可以感知並行動的各種系統。在這種情況下，智能是一個與統計學和經濟學相關的理性概念。通俗地講，這是一種做出好的決定、計劃和推論的能力。基於這些工作，大量的整合和交叉孕育被應用在人工智慧、機器學習、統計學、控制論、神經科學、以及其它領域。共享理論框架的建立，結合數據的供應和處理能力，在各種細分的領域取得了顯著的成功。例如語音識別、圖像分類、自動駕駛、機器翻譯、步態運動和問答系統。

隨著這些領域的發展，從實驗室研究到有經濟價值的技術形成良性循環。哪怕很小的性能改進，都會帶來巨大的經濟效益，進而鼓勵更長期、更偉大的投入和研究。目前人們廣泛認同，人工智慧的研究正在穩步發展，而它對社會的影響很可能擴大，潛在的好處是巨大的，甚至文明所產生的一切，都可能是人類智能的產物；但我們無法預測我們可能取得什麼成果，這種成果可能是被人工智慧工具放大過的。但是，正如我說過的，根除疾病和貧窮並不是完全不可能，由於人工智慧的巨大潛力，研究如何（從人工智慧）獲益並規避風險是非常重要的。

現在，關於人工智慧的研究正在迅速發展。這一研究可以從短期和長期來討論。一些短期的擔憂在無人駕駛方面，從民用無人機到自主駕駛汽車。比如說，在緊急情況下，一輛無人駕駛汽車不得不在小風險的大事故和大概率的小事故之間進行選擇。另一個擔憂在致命性智能自主武器。他們是否該被禁止？如果是，那麼「自主」該如何精確定義。如果不是，任何使用不當和故障的過失應該如何問責。還有另外一些擔憂，由人工智慧逐漸可以解讀大量監控數據引起的隱私和擔憂，以及如何管理因人工智慧取代工作崗位帶來的經濟影響。

長期擔憂主要是人工智慧系統失控的潛在風險，隨著不遵循人類意願行事的超級智能的崛起，那個強大的系統威脅到人類。這樣錯位的結果是否有可能？如果是，這些情況是如何出現的？我們應該投入什麼樣的研究，以便更好的理解和解決危險的超級智能崛起的可能性，或智能爆發的出現？

當前控制人工智慧技術的工具，例如強化學習，簡單實用的功能，還不足以解決這個問題。因此，我們需要進一步研究來找到和確認一個可靠的解決辦法來掌控這一問題。

近來的里程碑，比如說之前提到的自主駕駛汽車，以及人工智慧贏得圍棋比賽，都是未來趨勢的跡象。巨大的投入傾注到這項科技。我們目前所取得的成就，和未來幾十年後可能取得的成就相比，必然相形見絀。而且我們遠不能預測我們能取得什麼成就，當我們的頭腦被人工智慧放大以後。也許在這種新技術革命的輔助下，我們可以解決一些工業化對自然界造成的損害。關乎到我們生活的各個方面都即將被改變。簡而言之，人工智慧的成功有可能是人類文明史上最大的事件。

但是人工智慧也有可能是人類文明史的終結，除非我們學會如何避免危險。我曾經說過，人工智慧的全方位發展可能招致人類的滅亡，比如最大化使用智能性自主武器。今年早些時候，我和一些來自世界各國的科學家共同在聯合國會議上支持其對於核武器的禁令。這次協商於上周開始，［為了避免歧義刪掉這句］我們正在焦急的等待協商結果。目前，九個核大國可以控制大約一萬四千個核武器，它們中的任何一個都可以將城市夷為平地，放射性廢物會大面積污染農田，最可怕的危害是誘發核冬天，火和煙霧會導致全球的小冰河期。這一結果使全球糧食體系崩塌，末日般動蕩，很可能導致大部分人死亡。我們作為科學家，對核武器承擔著特殊的責任，因為正是科學家發明了它們，並發現它們的影響比最初預想的更加可怕。

現階段，我對災難的探討可能驚嚇到了在座的各位。很抱歉。但是作為今天的與會者，重要的是，你們要認清自己在影響當前技術的未來研發中的位置。我相信我們團結在一起，來呼籲國際條約的支持或者簽署呈交給各國政府的公開信，科技領袖和科學家正極盡所能避免不可控的人工智慧的崛起。

去年10月，我在英國劍橋建立了一個新的機構，試圖解決一些在人工智慧研究快速發展中出現的尚無定論的問題。「利弗休姆智能未來中心」是一個跨學科研究所，致力於研究智能的未來，這對我們文明和物種的未來至關重要。我們花費大量時間學習歷史，深入去看——大多數是關於愚蠢的歷史。所以人們轉而研究智能的未來是令人欣喜的變化。雖然我們對潛在危險有所意識，但我內心仍秉持樂觀態度，我相信創造智能的潛在收益是巨大的。也許藉助這項新技術革命的工具，我們將可以削減工業化對自然界造成的傷害。

我們生活的每一個方面都會被改變。我在研究所的同事休·普林斯承認，「利弗休姆中心」能建立，部分是因為大學成立了「存在風險中心」。後者更加廣泛地審視了人類潛在問題，「利弗休姆中心」的重點研究範圍則相對狹窄。

人工智慧的最新進展，包括歐洲議會呼籲起草一系列法規，以管理機器人和人工智慧的創新。令人感到些許驚訝的是，這裡面涉及到了一種形式的電子人格，以確保最有能力和最先進的人工智慧的權利和責任。歐洲議會發言人評論說，隨著日常生活中越來越多的領域日益受到機器人的影響，我們需要確保機器人無論現在還是將來，都為人類而服務。向歐洲議會議員提交的報告，明確認為世界正處於新的工業機器人革命的前沿。報告中分析的是否給機器人提供作為電子人的權利，這等同於法人（的身份），也許有可能。報告強調，在任何時候，研究和設計人員都應確保每一個機器人設計都包含有終止開關。在庫布里克的電影《2001太空漫遊》中，出故障的超級電腦哈爾沒有讓科學家們進入太空艙，但那是科幻。我們要面對的則是事實。奧斯本·克拉克跨國律師事務所的合伙人，洛納·布拉澤爾在報告中說，我們不承認鯨魚和大猩猩有人格，所以也沒有必要急於接受一個機器人人格。但是擔憂一直存在。報告承認在幾十年的時間內，人工智慧可能會超越人類智力範圍，人工智慧可能會超越人類智力範圍，進而挑戰人機關係。報告最後呼籲成立歐洲機器人和人工智慧機構，以提供技術、倫理和監管方面的專業知識。如果歐洲議會議員投票贊成立法，該報告將提交給歐盟委員會。它將在三個月的時間內決定要採取哪些立法步驟。

我們還應該扮演一個角色，確保下一代不僅僅有機會還要有決心，在早期階段充分參與科學研究，以便他們繼續發揮潛力，幫助人類創造一個更加美好的的世界。這就是我剛談到學習和教育的重要性時，所要表達的意思。我們需要跳出「事情應該如何」這樣的理論探討，並且採取行動，以確保他們有機會參與進來。我們站在一個美麗新世界的入口。這是一個令人興奮的、同時充滿了不確定性的世界，而你們是先行者。我祝福你們。謝謝。

2017年11月，霍金在騰訊WE大會上發表演講，提出人口激增是人類當下的重要問題，而進行星際遷徙、移居到其他星球是解決這一問題的重要途徑。全文如下：

你好，北京！我是史蒂芬·霍金。歡迎來到騰訊WE大會。

我今天的演講，是關於在宇宙這一背景下，地球和人類所扮演的角色。為了最好地闡述，我需要從兩個維度出發，一是思考人類的未來，二是研究我們探索太空、尋求其他潛在宜居星球的選擇。我今天的目的，是問大家兩個問題。首先，我們需要做什麼才能夠確保，在力所能及的範圍內，人類的未來達到儘可能完美？其次，我們為什麼要考慮探索其他宜居星球？

一個原因是，對我們來說，地球變得太小了。在過去二百年中，人口增長率是指數級的，即每年人口以相同比例增長。目前這一數值約為1.9%。 這聽起來可能不是很多，但它意味著，每四十年世界人口就會翻一番。 2022年，我將慶祝自己80歲的生日，而在我人生的這段歷程中，世界人口比我出生時膨脹了四倍。

這樣的指數增長不能持續到下個千年。 到2600年，世界將擁擠得 「摩肩擦踵」，電力消耗將讓地球變成「熾熱」的火球。這是岌岌可危的。然而我是個樂觀主義者，我相信我們可以避免這樣的世界末日，而最好的方法就是移民到太空，探索人類在其他星球上生活的可能。

但是理由充分嗎？難道留在地球上不是更好？ 在某種程度上，今天的情況就如同1492年前的歐洲。當時的人們很可能堅信，哥倫布的探險註定是徒勞無功。 然而，新世界的發現，對舊世界帶來了深遠的影響。對於那些被剝奪權利地位、走投無路的人來說，新世界成為了他們的烏托邦。人類向太空的拓展，甚至將會產生更深遠的影響，這將徹底改變人類的未來，甚至會決定我們是否還有未來。它不會解決地球上任何迫在眉睫的問題，但它將提供解決這些問題的全新視角，讓我們著眼於更廣的空間，而不是拘泥眼下。希望這能夠讓我們團結起來，面對共同的挑戰。

當我們進入太空時，會有怎樣的發現呢？會找到外星生命，還是發現我們終將在宇宙中踽踽獨行？我們相信，生命在地球上是自然而生的，是在漫長的進化後，實現了與地球資源的高度契合。因此，在其他條件適宜的星球上，生命的存在也必定是可能的。即使這種可能性極小，但宇宙是無限的，我們還是可以假設，生命會在某處出現。不過，如果概率很低，那麼出現生命的兩個星球間的距離，可能將異常遙遠。

在太陽系中，月球和火星是太空移民地最顯而易見的選擇。水星和金星太熱，而木星和土星是巨大的氣體星球，沒有堅實的表面。火星的衛星非常小，並不比火星本身更優。木星和土星的一些衛星也存在可能。比如木星的衛星之一歐羅巴，它的表面是冰層，但其下可能會有液態水，也就可能會孕育生命。那麼我們如何確定這種可能？是否必須登陸歐羅巴，然後鑽一個洞？

星際航行必然是一個長期的目標。我所說的長期，是指未來二百到五百年。

但是，還有另一種選擇。去年，我與企業家尤里·米爾納（Yuri Milner）一起，推出了長期研發計劃——「突破攝星」，目標是讓星際旅行變成現實。如果成功，在座各位有些人的有生之年內，我們將向太陽系最近的星系——半人馬座阿爾法星系發送一個探測器。

「突破攝星」是人類初步邁向外太空的真正機會，為了探索和考量移居太空的可能性。 這是一項概念驗證的使命，其中涉及三個概念：迷你太空飛行器、 光動力推進和鎖相激光器。「星晶元」是尺寸被縮小到僅幾厘米、但功能完備的太空探測器，它將附著於「光帆」上。「光帆」由超材料製成，重量僅有幾克。我們設想，一千個由 「星晶元」和 「光帆」組成的納米飛行器將被送入軌道。 在地面上，激光器陣列將共同形成一道超強光束，光束穿過大氣，以數十吉瓦的功率射向太空中的「光帆」。

這項創新背後的想法，是以光束來驅動納米飛行器的前進。這樣產生的速度雖然不及光速，但也能達到其五分之一，約合每小時1億英里。這樣的系統可以在一小時內抵達火星，幾天內到達冥王星，一周內就可以追上並超過旅行者號探測器，並在僅二十年後到達半人馬座阿爾法星系。重要的是，「星晶元」的軌跡可能包括「比鄰星b」，這顆位於半人馬座阿爾法星宜居帶的行星，與地球的大小類似。正是在今年，「突破攝星」與歐洲南方天文台攜手合作，進一步探尋半人馬座阿爾法星系的宜居行星。

目前看來，這些都可能成為現實。但我們也看到重大的挑戰。1吉瓦功率的激光器僅能提供幾牛頓的推力，不過因為納米飛行器因為只有幾克重量，恰恰可以克服這個問題。但是工程方面的挑戰是巨大的。納米飛行器必須經受極限加速、極寒、真空和質子，以及與太空粉塵等垃圾的碰撞。另外，由於大氣湍流，將一套總量100吉瓦功率的激光組瞄準太陽帆，也是很困難的事情。

還有一些嚴峻的問題。如何讓數百道激光穿過大氣波動時聚合，如何推動納米飛行器又不燒毀它們，如何讓它們瞄準正確的方向？此外，我們還需要讓納米飛行器在冰冷的真空環境中工作二十年，這樣它們才能將信號傳回到四光年外的地球。然而這些都是工程設計要解決的問題，而工程挑戰往往最終都會被解決。隨著技術進步日趨成熟，我們可以展望更多令人興奮的使命。如果「突破攝星」計劃能傳回毗鄰星系中宜居星球的圖像，這對人類的未來必將產生深遠影響。

希望我已經解答了我演講一開始所提出的問題。人類作為獨立的物種，已經存在了大約二百萬年。我們的文明始於約一萬年前，其發展一直在穩步加速。如果人類想要延續下一個一百萬年，我們就必須大膽前行，涉足無前人所及之處！

感謝大家的聆聽。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！