獨家對話《盲視》作者：AI最可怕的事就是它太像人類
彼得·沃茨，《盲視》作者，
雨果獎得主，大個子，貓奴，技術宅，
覺得弄懂何為「意識」是人類的終極目標
Main Title Theme - Westworld
Westworld: Season 1 (Selections from the HBO? Series)
Ramin Djawadi
00:00/01:42
彼得·沃茨個子很高，起碼有1米9，用他的話來說是個「giant」（巨人）。他穿著昆特牌的宅T，身上還粘著漂洋過海而來的貓毛——我以為是亞太科幻大會海報上那隻翻白眼的貓，但他自豪地說，這些毛來自他養的五隻貓！
這是沃茨要求的拍照姿勢，可以把他拍成一個「giant」。他衣服上粘著許多貓毛。
果然，所有科幻作家都會養毛茸茸的小動物？
沃茨露出一副貓奴的神情，但這位溫柔大傢伙的小說卻非常冷硬。作為當代硬核科幻作家代表，他拿過雨果獎，代表作《盲視》也獲得過雨果獎、坎貝爾獎和軌跡獎提名。
這本小說建立在真實科研的基礎上，技術和邏輯極其縝密，還專門做了一個虛構的研究報告，探討吸血鬼的科學設定。後來，《孤島危機2》請他做藝術顧問，還在遊戲里引用了《盲視》的技術元素。
這麼說吧，彼得·沃茨這個前海洋生物學者，從頭到腳散發著技術宅的酷勁兒。他為每場論壇準備了翔實的PPT和演講稿，裡面滿是數據、理論和科學假說，每次上台，下面都是尖叫歡呼。
亞太科幻大會開始前，我們逮住他，聊了聊他最喜歡的話題：機器學習、人工智慧……還有《盲視》里那個最經典的科幻議題：
意識究竟是什麼？
Q：你在《盲視》細緻描寫了很多不同於人類的生命形態。你覺得除了人類和AI，宇宙中還存在怎樣的生命？它們存在的邏輯會是什麼？
沃茨：宇宙里沒有理由不存在別的生命形態，而它們存在的邏輯就是全世界通用的準則——物競天擇。
看看生命本身吧，它不是像魔法火花一樣瞬間產生、瞬間消逝的東西，而是永不停歇的，像水一樣，分支，分流，變化成不同形態。所以，生命是循序漸進的，我相信這個原則推及到宇宙中也能適用。
物競天擇只在乎當下的生態運行，絕不會想到什麼東西會在未來一千年後殺掉我們，所以，宇宙中的一切生命其實都有某種直覺，一種「這麼做就對了」的盲目直覺。我覺得任何星球上的物競天擇規則，都必定帶有這種直覺。
但AI或許並不適用物競天擇的規律，我們一直都期待AI能夠不同於人類，他們不會被所謂的直覺驅動。當你用原始的直覺來控制一堆機器的話，那就準備面對大災難吧。科技擁有有毀滅整個世界的能力。我覺得AI最可怕的事情就是它太像人類了，天哪，它學會了人類的語言，人們以人類為藍本打造了她的大腦，她佔用了整個網路系統，附著於網路上，學會了一切知識。
我們人類可不是這樣了解這個世界的，我們的學習更慢。很多電影都會講AI覺醒，被其創造者濫用，然後發出反擊，但說實在的，我覺得AI並不會這樣做。
《盲視》，作者照片欄是他的貓
Q：所以，《西部世界》這類講述機器人覺醒反抗人類的故事，你覺得是不合理的嗎？
沃茨：我特別喜歡《西部世界》，它非常迷人的一點，是機器人覺醒的題材原本是說不通的，但《西部世界》讓它說通了——整個反抗革命其實是編程好的，人類用程序設定好讓他們反抗，看上去是機器人覺醒，但實際上不是。
劇中有一個場景特別棒，梅芙看到了一個「對話樹」在預測自己要說的話，每當她說點什麼的時候，她就會看到那個「對話樹」在預測她的行為，但她本人卻仍是被編程的。她一邊砸掉那個「對話樹」，一邊說著「我是被人控制的」，這真是太完美太棒的一幕了。《西部世界》是唯一一部兩者兼得的劇，它既有暴力的機器人崛起，又沒有打破任何規則，沒有違背AI的本質，從編程的角度來講這個故事就非常合理。
《西部世界》
還有，編劇的人也很懂得「折磨致使醒悟」這個概念。有一個理論是說意識本身包含兩種矛盾的衝動，舉個例子，你正在路上開車，突然有隻貓跳到你的前方。一方面你要趕緊剎車以免傷到小貓，另一方面你突然剎車又會傷到自己。在小貓出現以前，你是沒有意識到自己在開車的——你只是下意識地在做開車這個動作而已。而當小貓出現時，你突然就有意識了，你想一舉兩得，在這種時候，意識才成為了意識。
我讀過一本書，其中就提到了矛盾如何導致了意識的產生。比如你在水中想要呼吸，可是呼吸的話就會被嗆到、淹死，你有了矛盾，於是就產生了高度的緊張感，也就是強烈的意識。
根據這個理論，我相信梅芙是產生了意識的，沒人比梅芙更慘了。但有趣的是，自我意識≠自由意志。她有自我意識，卻沒有自由意志。這難道不像我們人類自己嗎？人類是有自我意識的，有時候卻沒有自由意志。
《西部世界》
《西部世界》是我看過的最有智商的一部科幻劇。他們做了完整的功課，鑽研了意識的理論，並且用很聰明的方式運用了這些理論，了解了那些他們所要打破的規則，還能自圓其說，實在是太棒了！第二季他們還專門請了神經科學家大衛·依格曼（David Eagleman）擔任科學顧問。
《西部世界》、迷宮和二分心智說
Q：那麼，你覺得以後的AI會誕生在哪裡？是互聯網還是秘密實驗室？
沃茨：你為什麼覺得只有兩個選擇呢？還有可能是「開源AI」。
不論是在互聯網還是秘密實驗室，我都懷疑它是否會獨立地繁衍下去。現在科學家們能讓機器自己教自己，你都不知道機器是怎麼理解這些知識的。
八十年代有一個很經典的電影，講的是軍方曾經想教機器識別坦克，用的是區別環境的方法。他們向機器輸入沙漠中的坦克的圖像，森林中的坦克，偽裝著的坦克，還輸入了完全沒有坦克的圖片，並不制定某種規則，最後，機器真的學會了識別坦克。
實驗進行了一段時間，機器正確識別出坦克的概率達到了99%，人們就很高興地輸入了其他圖片，想讓它識別更多坦克，可是精確度卻降低至普通水準。原來，他們拍攝坦克圖像的那一天，天氣非常晴朗，拍攝沒有坦克圖像的那一天，天氣陰沉沉的。他們以為AI識別了坦克的圖像，但實際上是太陽光的亮度對比起到了作用。
這可是非常危險的啊，你覺得你知道AI在學習什麼，但很有可能它在學習完全不同的東西。
Q：人類看待世界的方式是很精妙的、難以複製的，但AI可能產生另外一種思維模式。你對Alpha Go怎麼看？人類應該對它抱有什麼樣的情感？
沃茨：這是個很典型的例子。研究人員唯一教給Alpha Go的就是如何判別輸贏，然後它自己和自己下棋，就研究出了下棋策略。
之前有一個版本的AI能自己教自己玩遊戲，就是那種八、九十年代的日本電子遊戲，兩天之內，它就變身為一個超級遊戲大師，你都不知道它怎麼學的，你做的唯一一件事就是告訴它什麼是對的、什麼是錯的，其他一切困難工作它都自己完成，你還不能倒回去看它的邏輯過程，因為它的遊戲思維實在太發達了。
我們應該去愛這些AI嗎？我想，要從崇拜它們這種觀念走出來，唯一的選擇就是去愛它們吧。
Q：生物、物理、數學……你的小說里出現了太多學科，現在對什麼領域最感興趣？最想研究什麼？
沃茨：我之前的專業是生物，對神經學什麼的不算專家，但是「意識」這個概念很吸引我。沒有人知道怎麼解釋這個問題。物理學描述這個世界時，無法描述出人類頭腦里的意識，沒有對「我們是我們」這種感覺給出任何解釋。
彼得·沃茨的處女作，一個有關生物學的科幻故事
Q：你的《盲視》就是討論這個問題的。
沃茨：《盲視》其實避免了這個問題，因為我不知道意識到底是什麼，我只是討論了它有哪些好處。
我一直覺得，人腦有時候就像一個開關，一打開就可以有意識通過。如果你用電刺激一塊肉，這就應該喚醒了這塊肉吧？可是為什麼呢？這完全是一個迷題，我們對此一無所知。沒錯，很多小說或科學理論在討論意識，但沒有任何一個可以解決掉那個最核心的問題——為什麼意識「感覺」起來是這樣的？我們為什麼必須有意識？意識本身什麼也不做。
這一切都是個陷阱，我們不知道意識是從什麼時候開始的。
來源：aeon.co
Q：幾十年之後，人類會不會找到答案，弄明白「意識」到底是什麼？或者，我們能進行到哪一步？
沃茨：這個問題有兩個答案。第一個答案是物理學上的，我認為唯一能理解意識的方法，是發現一種全新的物理，重新定義宇宙萬物。第二個答案，就是我們永遠無法理解。因為以定義來看，意識是「在裡面」的，你只能在外面研究它，但當你跳出來觀察意識的那一瞬間，你又被「意識」圈了起來，每一次你試圖跳出來時，你都會陷入循環中。意識總是隱形的，無意識的狀態是不存在的。
來源：ENVIRON
Q：現在很多研究意識的實驗，我們都不知道它的方向是否正確，比如著名的「水迷宮」——人們把小白鼠放進迷宮裡，試圖研究動物的記憶能力。這樣做真的能弄明白記憶和意識的原理嗎？
沃茨：就算這個實驗成功了，說明的也是動物的學習能力。我們有可以自主學習的計算機，有這種能力不代表具備意識，這毫無道理。
比如你被鎖在一個房間里，被問到「你有意識嗎？」你回答：「是的，我有」。想像一下，如果有個和你長得一模一樣的機器人，被編程說出和你一樣的話，你怎麼確定誰有意識呢？所以有沒有意識這個問題，不可能直接問就得到答案。
有人發明出了一種計算方法，據說能夠測算出「你有多有意識」，從無意識到具有強烈的意識，以數學的方式展示出來。這對那些病危的病人很實用，因為你用這種方法掃描一下病人的大腦，就能得到數據，註明這個人「有意識」、「非常有意識」或者「不那麼有意識」。這個技術太炫酷了，但還是不能解釋為什麼人類會有意識的那種「感覺」。我想問你，如果要討論意識的本質的話，你會怎樣設計實驗呢？
Q：我認為這是科幻小說的，或者說是人類的終極問題。
沃茨：是啊。當答案終於知曉時，我們也不在這世上了，真是可惜。如果你知道了問題的答案，更多的謎題就會冒出來，這個宇宙並不會因你知道了某一個答案而變得無趣，你不覺得嗎？
謎題是追求不完的。祝你好運吧！
| 責編 | 船長；翻譯 |思敏
| 作者 |蘇小七，《不存在日報》記者，本體是白鼬。
※星巴克開進了義大利
※孩子們很早就開始關心自己的「面子問題」
TAG:煎蛋 |