人工智慧，機器學習，超級智慧單一體……這些事，150年前竟然就有人預言過

最新 01-30

人工智慧，毫無疑問是2017年最為如日中天的熱門話題。在中關村、望京這樣的互聯網產業園區里，說是大街小巷無人不在談論人工智慧，也不為過。而人工智慧令人瞠目結舌的飛速發展，也不得不引發人們對於人與技術、技術與世界等等關係即將面臨的巨大變革的深深擔憂與思考。

2017年，谷歌率先宣布啟動AutoML，即自動機器學習項目。換句話說，未來可能不再需要程序員去給一個個機器撰寫代碼，機器自己就能製造機器，能夠實現機器的「自行繁殖」。這或許是比「人工智慧」更進一步的「機工智能」。然而，在世界科幻史上，早在1872年，一位名叫薩繆爾·巴特勒的英國人，就曾經設想過這一情形。他當時的思考與設想，在今天看來不僅遠未過時，反有未卜先知之神。今天，就讓我們通過以下文章，了解這位科幻作家是如何「料事如神」的。

當機器學會生殖

——重讀《埃里汪奇遊記》

岳林

Samuel Butler（1835-1902）

一

1859年，達爾文出版《物種起源》那年，英國小伙薩繆爾·巴特勒（Samuel Butler, 1835-1902）登上遠洋帆船背井離鄉，跑到紐西蘭當起了綿羊育種員。而達爾文這部巨著，是他用來消磨時光的業餘讀物。巴特勒出身書香門第，又曾負笈劍橋，對繁殖綿羊之外的一些事務也頗感興趣。四年後他寫了篇危言聳聽的文章，預言機器也能進化，並將超越和統治人類，因此建議人們趁早「砸爛所有機器」。[1]1872年，巴特勒出版小說《埃里汪奇遊記》，進一步勾勒了他的未來機器圖景，觸及許多今天仍被熱議的人工智慧話題。在第24章，借書中人物之口，這位綿羊生殖專家談到了機器生殖：

「如果一台機器能夠用系統生出另一台來，我們就可以說它有生殖系統。如果生殖系統不是用來生殖的系統，它是什麼呢？有幾台機器不是由別的機器生殖出來的呢？可是，使它們這麼做的正是人。對；可是難道不正是昆蟲使很多植物具有生殖能力的嗎？如果植物不是由於一類與它們完全不同的力量而受精的話，難道所有的植物不會消失嗎？有誰講過紅三葉草沒有生殖系統，所以野蜂（僅僅是野蜂）必須幫助它才能生殖？誰也沒講過。野蜂是三葉草生殖系統的一部分。我們每一個人都是由很小的微生物發展而來的，它們的存在與我們的存在截然不同，它們按它們的方式行動且不管我們會如何想。這些小東西是我們生殖系統的部分；那麼我們為什麼就不是機器的生殖系統的部分呢？」[2]

人類通過機器製造機器，反倒被巴特勒說成是機器藉助人力來生殖機器。人類原本是機器的創造者和主宰者，是機器存在的動力和原因，現在卻被巴特勒降了級，成了機器繁殖的工具，如同巴特勒自己在綿羊繁殖過程中所扮演的角色。是「生殖系統」（reproductive system）決定生殖，而非生殖器官（reproductive organ）。生殖器官不是生殖的充分條件，紅三葉草和人類單憑「自己」都無法生殖。生殖器官可能也不是生殖的必要條件，機器沒有它也能生殖。例如一台專職製造機器的機器，很難說它的哪些部分承擔生殖功能，而哪些部分又不是；除非，我們把這台機器整個兒都看作一個生殖器官。但巴特勒是在一個非常含混的意義上使用生殖系統這個概念。如果所有生殖所需的因素都要被容納進來，那麼人體的各個器官都可以說成是為生殖器官服務的；或者按照這個邏輯繼續推導，人類社會、自然界乃至全宇宙也都可以是一個生殖系統。

巴特勒不是機器工程師，也不是機器理論家。他提供給我們的，只是一種關於機器生殖的文學想像。但相較於他的年代，這種想像太超前了，可能就連他的同輩人儒勒·凡爾納也不能企及。20世紀以來，巴特勒這本小說雖不被主流文學市場看好，但還是頻頻成為機器研究者回溯和紀念的對象。無論是控制論之父諾伯特·維納，還是計算機奠基人艾倫·圖靈，都在他們各自的代表作中提及或引用到《埃里汪奇遊記》。[3]機器理論家劉易斯·芒福德說巴特勒小說寫得「顛三倒四」（topsy-turvy），對機器的洞察力和想像力卻非同凡響，而且是最早提出機器生殖機器（a machine』s reproducing another machine）可能性的人。[4]

Lewis Munford（1895-1990）

任何機器，例如鐘錶、差分級、蒸汽機、計算機或者人工智慧，其共性都是自動化（automation）。但直至今天，所有機器的自動化都是相對的，不可能徹底擺脫人類力量的介入。機器需要人類設計和製造，需要人類提供能源和原材料，需要人類上發條、添機油和按開關，需要人類維護、修理和改造。所謂自動機（automata），目前也只能在特定流程中「自動」，而這個流程依然來自於人類的設計和啟動。在這個意義上，會下圍棋的阿爾法狗和古舊的機械鐘沒有本質區別。人工智慧已經學會下棋、聊天、寫詩和繪畫，但還是需要人類為它編寫演算法和代碼。阿爾法狗與柯潔的對弈，嚴格說來，是一個上百號人的工程師團隊與一位旗手的較量。

如果人工智慧要實現更大程度的自動化，或者實現質的飛躍，超越庫茲韋爾所謂的「奇點」，那麼它就必須學會自己編程，學會自己閱讀、理解、複製和創造代碼。用巴特勒的話說，就是人工智慧必須學會生殖人工智慧。

二

程序員也許是人類為自己保留的最後一個工作。更準確地說，程序員也許是人工智慧允許人類從事的最後一個工作。[5]所以人工智慧工程師承擔著一個浪漫使命，那就是讓自己的「孩子」最終取代自己。當然，被取代既可能意味著被淘汰，也可能意味著被解放。

已經有許多人工智慧工程師在從事這樣的努力了。2017年，谷歌宣布它的一個人工智慧項目AutoML（Automatic Machine Learning），已實現讓一個機器學習軟體去自動創造另一個機器學習軟體。據說這種軟體自己開發出來的軟體，能夠在一些事項上勝過人類工程師的作品。根據谷歌自己的解釋，AutoML的工作原理，是由一個控制器神經網路（a controller neural net）生成一個「兒童」模型架構（a 「child」 model architecture），對這位「兒童」進行訓練和評估，然後對這位「兒童」加以重構，如此循環反覆成千上萬輪次，控制器便學會涉及效能最優的模型架構了。[6]

其實圖靈早就指出，讓機器學會思維，不可能一蹴而就，人類工程師必須先造出一個「兒童機器」（Child Machine），對其進行教育。當然兒童機器不會被送入人類學校，在那兒它肯定會受到歧視（想想阿童木的遭遇）。但教育機器與教育人類的理念大體一致，都需要通過獎懲手段引導學生獲得知識或者能力。人類工程師為兒童機器設置邏輯規則，發出明確的命令，允許它在多種可能的執行步驟中進行選擇。然後，人類工程師根據執行效果，對兒童機器給予獎懲，或者對其重新編程——在哲學意義上，這或許就是重新創造了。人類工程師身兼二職，即是父親，又是教師。久而久之，兒童機器的執行策略會越來越接近人類工程師的意願；也可以說，它的思維方式會越來越接近人類。如果兒童機器聰明到可以通過「圖靈測試」，能夠掩蓋身份、欺騙人類，那麼也就有資格「畢業成人」了。[7]因此，AutoML並沒有從根本上改變圖靈的設想，只不過置換了角色，讓機器來充當「父親機器」或者「教師機器」，對兒童機器實施教育。

AutoML目前還做不到完全取代人類。而且它給人類工程師至少帶來兩個福音：其一，它能減輕負擔、提高效率。如今大部分人工智慧工程師的工作，如圖靈所述，都需要「親自」對機器模型進行多次反覆的調試。這種工作在相當大程度上是重複勞動，工程師自己也需要經歷長期教育和大量訓練才能勝任。很多時候，工程師都是根據非常個人化的經驗和技巧來作出選擇。因此，工程師其實也非常需要AutoML這樣的助手。其二，它能降低人類工程師的職業門檻，反倒讓更多人有機會參與到這個行業中來。谷歌CEO桑達爾·皮查伊就說，如今世界上其實只有幾千位熟練的機器學習科學家，但AutoML可以讓這個隊伍迅速擴大。[8]

谷歌的人工智慧研究員弗朗索瓦·喬列就認為AutoML將是對人類工程師的解放。它非但不會奪走人類的工作，反而會讓人類上升到價值創造鏈（the value creation chain）的更高端，更加全面和深入地了解模型的數字生態。喬列還堅信，即便人工智學會了編程，甚至發展為能夠從事所有人類工作的通用人工智慧（Artificial General Intelligence），人類也不會被機器徹底取代。[9]換言之，人工智慧的自我複製與生殖，未必就如巴特勒想像中的那般可怕。

三

但我們依然不能排除一種可能，即AutoML只不過處於機器生殖機器的初級階段罷了。實際上，它也確實沒有在真正意義上擺脫人類的干預。而巴特勒設想的具有生殖能力的機器，比AutoML要複雜、高級得多：

「在某些限度之內，機器能夠生出任何種類的機器，無論這些機器與它們本身多麼不同。每一類機器也許會有它們的特別機器生殖者，而且所有較高級的機器都把它們的存在歸功於很多的父母，而不是僅僅兩個。如果把任何複雜的機器看成是一件單獨的東西，那我們就會被引入歧途；事實上，它是一座城市或者一個社會，這個社會的每一個成員都是真正地按照它的種類生殖出來的。我們把機器看成是一個整體，我們用名字稱呼它並賦予它個性……每台蒸汽機的每部分是由它自己特別生殖者們生出來的，這些生殖者的作用就是生殖這些部分，而且只生這些部分，而把很多部分結合成為一個整體卻是機械生殖系統另外的一個專長，目前這種專長很複雜，而且很難看到它的整體。」 [10]

巴勒特其實是在不同層次上來考慮機器的生殖問題。從機器的內部維度看，它的組成部分或者零件可以非常便利進行拆分和重組。從機器之間的維度看，不同的機器也很容易組裝在一起。因此任何一個單個的機器，不僅內部可以包含若干其他機器作為零件，它自己也為作為零件成為其他機器的組成部分。因此機器之間的生殖關係，即由哪些機器製造另外一些機器，根本不可能像有機物一樣，根據遺傳學來排列出「家族譜系」。所以巴特勒才建議，不能把機器看作是「一件單獨的東西」，而應該把所有的機器都看做一個整體，一個彼此聯繫不可分割的「社會」。

把全世界的有形機器都想像成一個整體，甚至是具有獨立意志的主體，即便在今天也需要勇氣。但是，如果我們的對象是虛擬機器，即人工智慧，那麼這種想像就容易得多了。因為人工智慧歸根結底就是由0和1構成的代碼，在互聯網環境下極易傳播，極易複製。人工智慧之間的生殖關係，其實也就是代碼之間的生成與被生成的關係。如果AutoML這樣具備自我複製與生殖能力的人工智慧到達了某個臨界點，那麼它也會像巴特勒所描繪的圖景一樣，把全世界的人工智慧都整合為一體。好萊塢已經在《終結者》或者《超驗駭客》這樣的科幻電影中設想過這樣的「超級人工智慧」。而尼克·博斯特洛姆稱之為智慧單一體（wise-singleton）。[11]在這個意義上，不同人工智慧之間的生殖關係就不存在了，因為此時只剩下唯一一個人工智慧；而這個人工智慧的生殖，歸根結底就是自我進化。而如果所有虛擬機器在聯結為一個整體之後，接下來開始支配所有的有形機器，並將其整合到一個更為全面的整體中去，全世界任何形式的機器都結為一體，那麼巴特勒設想機器圖景也就大功告成了。

此時，我們將不得不思考需要思考人類與機器的終極關係，或者說，人類的的最終命運。但正如我們已經知道的，巴特勒看到的未來，著實有些黑暗：

「我們對待家畜是很仁慈的。我們把我們認為對它們來說是最好的任何東西給它們。毫無疑問我們吃肉增加了它們的幸福而不是減少了它們的幸福。我們也完全有理由希望機器能夠很友好地利用我們，因為機器的存在，很大程度上講，取決於我們的存在；它們會以嚴酷的手段統治我們，可它們不會吃掉我們；它們不僅會要求我們在生養它們的幼子方面給予幫助，而且還要我們做它們的僕人，為它們採集食物飼養它們；當它們生了病時，還要幫它們恢復健康；此外它們還要求我們埋葬它們的死者，或者它們之中死去了的成員綜合加工成新形式的機械實體。」 [12]

可是，這哪裡像是在描述未來呢？

2018年1月5日

END

作者繫上海大學法學院講師，北京大學法學博士

感謝作者授權活字文化！

注釋

[1]http://nzetc.victoria.ac.nz/tm/scholarly/tei-ButFir-t1-g1-t1-g1-t4-body.html，最後訪問於2018年1月1日。

[2] 塞·巴特勒：《埃里汪奇遊記》，彭世勇、龔紹忍譯，湖南人民出版社1985年版，第170頁。

[3] N. 維納：《控制論——或關於在動物和機器中控制和通信的科學》（第二版），郝季仁譯，科學出版社2009年版，第21頁；Turing, Alan M. "Computing machinery and intelligence." Mind 59.236 (1950): 433-460.

[4] 劉易斯·芒福德：《機器的神話（下）：權力五邊形》，宋俊嶺譯，中國建築工業出版社2015年版，第232頁。

[5] 參看佩德羅·多明戈斯：《終極演算法——機器學習和人工智慧如何重塑世界》，黃芳萍譯，中信出版社2017年版，第355-356頁。

[6] See Le, Quoc & Zoph, Barret. "Using Machine Learning to Explore Neural Network Architecture."

https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html, 最後訪問於2018年1月5日。

[7] Turing, Alan M. "Computing machinery and intelligence." Mind 59.236 (1950): 433-460.

[8] Simonite, Tom. "Google"s Learning Software Learns to Write Learning Software." https://www.wired.com/story/googles-learning-software-learns-to-write-learning-software/,最後訪問於2018年1月5日。

[9] Chollet, Francois. "The future of deep learning." https://blog.keras.io/the-future-of-deep-learning.html, 最後訪問於2018年1月5日。

[10] 塞·巴特勒：《埃里汪奇遊記》，彭世勇、龔紹忍譯，湖南人民出版社1985年版，第171-172頁。

[11] 尼克?波斯特洛姆：《超級智能——路線圖、危險性和應對策略》，張體偉、張玉青譯，中信出版社2015年版，第6章。

[12] 塞·巴特勒：《埃里汪奇遊記》，彭世勇、龔紹忍譯，湖南人民出版社1985年版，第180-181頁。