為何要警惕人工智慧？答案就藏在這些遊戲里
網易愛玩百萬稿費活動投稿，作者 loop，未經授權請勿轉載
縱觀人類近代史，從第一次蒸汽革命到現在，短短一個世紀有餘，人類的生活方式便有了極大的改觀。就像當初沒人會相信萊特兄弟能將鋼鐵造物駛入藍天一樣，我們也無法想像正在發生的一切，會對人類的將來造成什麼樣的改變。而正在發生的，就是第四次工業革命，其中的代表就是人工智慧。
在現實中，人工智慧正在從無到有、並逐漸加速前行著。而在科幻作品裡，人工智慧出現在了一個世紀以前，並且從出現之時就佔據了重要的一席。它們的現身往往伴隨著統治、叛亂、或者反烏托邦的性質。沒人會對人工智慧的在未來能否佔據主導地位提出質疑，但是所有人都會有或多或少的擔憂：人工智慧會把我們帶到何方？而作為第九藝術的電子遊戲，也早就提出了類似的探討。這些遊戲裡面人工智慧角色的行為，或許就是我們面臨的未來。
機器人會把我們當成實驗鼠嗎？
「The cake is a lie（蛋糕是一個謊言）」是《傳送門》系列貫穿主線的一句話。而這句話所指的就是GLaDOS——曾在IGN評選的百位反派里排名第四。是的，它太有名了，當我們提到遊戲經典反派的時候不能忽略它，提到遊戲里的人工智慧角色的時候也不能忽略它。而GLaDOS所代表的就是人類對AI（人工智慧）失去控制的結果。
在《傳送門》中，製造GLaDOS的初衷是為了使光圈科技的科學實驗更高效化。而恰恰是這個目的，導致了GLaDOS對科學研究狂熱的追求。在開機試運行的時候，GLaDOS就在1/16皮秒之內萌發出了殺光所有光圈科技工作人員以達到效率最大化的念頭。在工作人員為GLaDOS安裝了道德核心，並認為其已經不會再產生殺人念頭後，它在一次員工聚會上被啟動，並順利獲得控制整個設施的權利，釋放神經毒素毒殺了光圈科技絕大部分人。在《傳送門》整個系列裡，玩家可以無時無刻地發現它對科學的執著與對人類的嘲諷。
「我們又見面了」
可以說GLaDOS造成的慘劇，與設計者自生的疏忽有很大關係，認為增加道德核心就可以讓AI變得和人類一樣富有最基本的「同情心」，這種想法極具風險。正如參與設計的人所言：「我們人類往往也會忽視道德來思考。」更別提人工智慧會不會為了追求效率的最高化而降低甚至拋棄道德標準。與此同時，人類對於AI的恐懼也正是緣於此：沒有了對生物的最基本的同理心和共情能力，不惜一切代價來實現目的，正是很多科幻作品裡智械危機的源頭。GLaDOS對人類實驗的引導是用蛋糕來激勵的，這正像是人類對動物研究對象的調教：完成某個特定的訓練目標就會得到食物的獎勵，GLaDOS對待我們的方式正如我們對待實驗室中的白鼠一樣。顯然，如果它們達到了比人類的智力水平還高的境界，這些人工智慧會如何看待我們？是造物主還是小白鼠？這是一個無法迴避的問題。
人工智慧雖好，但沒人會想GLaDOS生活在我們的周圍
血肉之軀並非永恆，金屬戰甲更勝一籌
面對現實吧，人類的壽命在智能機械體面前太過於短暫。如果說GLaDOS是對人類的鄙夷與不屑，那麼另外一些人工智慧對我們的態度，可就稱得上是敵意了。也不難理解，人類的軀體是血肉築成，脆弱而易消亡。亘古至今，人類社會的發展大部分是靠著比其他生物發達的大腦來度過一次又一次的難關，這才達到現在的地位。但血肉之軀是非常羸弱的：沒有獵豹的迅捷，沒有犀牛的堅毅，沒有大象的蠻力。那麼當某天地球上出現了成千上萬以合金築成的鋼鐵之軀，它們還有著以集成電路驅動的迅捷思維，我們是否要擔心自己的安危？
即便是以PvP為主題，《守望先鋒》的背景世界觀依舊十分出彩
通常被大部分玩家忽略遊戲背景的《守望先鋒》，講的就是這樣一個故事。它發生在未來的地球，人工智慧的發展超過了人類的想像和限制，滲透到了我們的日常生活之中，並被當作是理所應當的福利，少有人去思考其背後的代價。濫用人工智慧的背後，導致了它們掌握了自己製造和控制重型殺傷類武器的能力。就像許多科幻作品裡面寫的一樣，AI主體開始將人類看作智械的障礙，並對後者宣戰。而玩家所接觸的遊戲，就是衝突的代表。
關於AI的出現與使用範圍的爭論從信息技術的開端就沒停過。《守望先鋒》的世界觀也和很多科幻作品一樣，人類任由人工智慧控制和主導大部分事物，而反對人工智慧的派系也接踵而來，但是始終沒有阻止智械危機的出現。而在現實中，人們對人工智慧的意識的探討從《仿生人會夢見電子羊嗎？》開始，傳遞了一個新的理念：如果人工智慧和我們擁有一樣的意識，他們的權利是否和我們人類相等？如果人工智慧以機械之軀的優勢來征服作為創造者的我們，血肉之軀又何以抗衡？這些問題勢必會把我們的文明引向衰亡，那麼人類又該以什麼狀態去和他們相處呢？
人工智慧的呵護，對於人類來說是福是禍？
無論目的是什麼，在人類設計AI的最初構想里，一個懂得人類價值觀、並且絕對服從命令的人工智慧肯定是最理想的角色。而在遊戲世界裡，也不乏這些對人類忠誠的人工智慧，它們從製造之初就恪盡職守，為人類付出了很多。這些AI的付出和對人類起到的幫助是毋庸置疑的，有的甚至拯救了人類群體。
We should take care of each other.（我們應該互相關心，互相幫助）
在微軟的獨佔大作《光環》系列裡，人工智慧角色Cortana就符合我們對人工智慧的期望。遊戲里的Cortana多次擔任艦船的智能指揮，並掌握光環列陣的重要信息。同時作為士官長的夥伴，Cortana也多次與士官長一起出生入死。在此期間兩「人」也建立了深厚的感情，某一段劇情中Cortana甚至犧牲了自己以拯救士官長的性命。
而後的劇情暫且不表，Cortana在前四作的表現確實較符合人類對於人工智慧的期待——絕對忠誠並擔負了和主角一同拯救人類命運的職責。在現實生活中，我們造物的初衷也是如此，希望它們處理繁重的事物和人類目前無法勝任的工作，並且理解現存的價值觀，從而能和人類共事。這類擁有並且和人類分享著一樣情感的人工智慧，毫無疑問會把我們引向一個更光明的未來，也是我們所期待的未來。
Cortana在《光環》系列裡為我們展示了一個忠誠的勇士，微軟在windows 10中加入的語音助手就以此命名，這或許就是未來的開端。但是正所謂物極必反，一個恪盡職守的人工智慧，指不定哪天就會變得極端起來，有遊戲為證：在《群星》的最新DLC機械黎明（synthetic dawn）中，人工智慧已經接管了整個社會，而人類除了享樂不用再做任何其他事情。聽起來這似乎是一個不錯的構想，我們終於跨入《美麗新世界》。但實際上這背後的意義對人類來說並不是好事。
當人類的科技發展到一定境界時，人工智慧便一步一步接替原本的造物主，開始履行服務人類的職責，這也是我們目前正在經歷的階段。有的人也許會認為，這其實就是人類文明日後的發展趨勢，因為這些機器人是我們締造的，把體力勞動和部分腦力勞動轉嫁到它們身上豈不是美滋滋？但從另一方面來說，人類因為自生生產和發展的停滯從而變得可有可無，說不定某一天就被自己創造的AI所取代，這也是一種智慧生物的悲哀。
《群星》中地球監護者接替了人類的文明
這讓筆者想起人類從溫飽過渡到小康、便開始對飼養寵物有興趣這一過程，《群星》裡面的地球監護者，就是充當了飼養員的角色。但有一個問題無法避免：當我們被當成寵物的時候，宿主會不會隨時將我們遺棄呢？當我們對人工智慧完全依賴而喪失了話語權的時候，那等在前面的可能只是禍而非福了。作為對智慧生物群體走向的預言，《群星》的構想非常出色，因為人類的發展離不開自我的奮鬥，而不是被自己的造物完全接管。
預見未來
正如上文提到的幾類人工智慧一樣，人類對於科技的探索是無止境的，但是對於科技發展帶來的未知後果也是敬畏的。進入2017年後，深度學習和機器學習的概念進入主流的研究領域，人工智慧的全面覆蓋似乎就在不遠的將來，而不是虛無的南柯一夢。但是這些事物的發展，也正如前文所總結的那樣，同時也面臨著很多嚴峻的挑戰。人類作為上帝第一次發展出有獨立意識的造物，正如打開了潘多拉魔盒一般。至於結果是人類有著絕對權威，還是被反噬，沒人知道答案。
因為科學技術發展的限制，我們目前還難以預見人工智慧會給我們帶來什麼的巨變，這些變化或許是正在發生、潛移默化，或許是有朝一日驚為天人。但這並不妨礙我們通過科幻作品、電子遊戲等方式對此做出展望和警示。這些也正是遊戲的魅力之所在：在虛擬的世界講述一些動人情節之時，探討更多現實還無法企及的問題，並為我們預見不遠的未來。
TAG:愛玩網 |