人類將會被人工智慧控制嗎？
近年來，人工智慧以前所未有的速度飛速發展，給社會方方面面帶來了大的衝擊。人類最好的棋手李世石和柯潔接連敗在了谷歌的人工智慧Alphago手下，標誌著AI已經發展到了一個嶄新的階段。也就是說深度學習的人工智慧已經能夠離開人類，自我升級、自我學習，就像一個孩子，已經長大到可以掙脫大人的雙手，依照他個人的意願，邁開步伐獨立行走。毋庸置疑，相對於人類的智慧，人工智慧在某些方面有著無以比擬的優勢，那麼是否有一天人工智慧會發展到失控的地步，成為地球的主宰，最終支配人類的命運，危及人類的生存？
這些擔憂聽起來像是杞人憂天，天方夜譚的事情，但是在科技高速發展的今天，似乎這一切卻在一步一步像我們靠近。今天人類社會面臨著前所未有的資本、生產要素的充裕期，知識以一個前所未有的速度在擴散，新的知識不斷地被創造出來，只要一個產業機遇出現，嗅覺靈敏的資本和過剩產能必然會將這個機遇在極短的時間裡推到巔峰極致。所以，筆者認為知識界十分有必要對是否需要對AI發展提供一定的限制展開討論。
限制某些科技的發展，避免給人類帶來災難，其實這樣的例子在不久前也曾經發生過。2000年後，一些科學家掌握了一部分基因技術之後，實現了動物的複製，動物實驗的成功，使得複製人無論是理論還是實踐上都已經成為了唾手可得的事情，不少科學家開始討論如何複製人類這一議題。但是一旦複製人出現了，這無疑將給人類社會秩序和倫理帶來巨大的衝擊，作為當今世界宗教的領袖天主教羅馬教宗發表聲明，明確表態反對科學界的複製人計劃，隨即當時美國總統小布希政府頒布禁令，禁止一切的複製人類的科學研究活動，從而制止了這一人類道德倫理危機的出現。
科技界的大咖特斯拉CEO埃隆·馬斯克(ElonMusk)就曾多次對人工智慧表示了擔憂。「隨著人工智慧發展，我們正在召喚惡魔。...（人們）總覺得能控制的惡魔，（但）根本不是這樣。」這已經成為馬斯克公開的言論，並反覆出現。
另一位科技界名人微軟公司聯合創始人比爾·蓋茨(Bill Gates)曾表示：在不遠的將來，機器人做更多事情將產生積極影響，但是他對AI的長期發展感到擔憂。「我站在對超級智能感到擔憂的一方，」蓋茨在社交論壇的問答活動中稱，「首先，機器能夠為我們做許多工作，還沒有達到超級智能的水平。如果我們能夠進行妥善管理，應該對我們有利。但是幾十年後，機器的智能化將強大到足以引起擔憂的水平。在這一問題上，我同意馬斯克和其他一些人的觀點，不理解為何一些人對此並不感到擔心。」
相比Facebook總裁扎克伯格對人工智慧的發展的樂觀態度，Twitter公司前CEO迪克·科斯特洛（Dick Costolo）也表達了與埃隆?馬斯克相似的觀點。科斯特洛在接受CNBC節目「SquawkAlley」採訪時稱：「我就當一回外交官吧。我認為馬斯克所說的意思是扎克伯格在AI問題上的觀點太樂觀。我確實傾向於持更為悲觀的看法：你很難在整體上控制AI。」
他進一步表達了他的顧慮，「如果假設我們能夠創造出比我們的智力更高的計算機，很容易就能想像到它會找到方法，擺脫我們試圖束縛它的任何邏輯框(logical box)。」
邏輯框架（logic box）是這些科技界大咖的關鍵詞，AI會找到它們的方法，打破邏輯框架，掙脫人類的控制，最終主宰人類嗎？
首先，我們先來了解並解構一下AI和AI是如何進行深度學習的。AI的深度學習與人類的學習本質上都是學習，有著很大的相似之處。人類的思維分為感性思維和理性思維，分別由左右兩邊大腦來分工合作，左腦負責理性計算，右腦負責感性判斷。
在Alphago出現之前，曾經有一台在國際象棋領域打敗人類最好的棋手卡斯帕羅夫的IBM超級電腦深藍（deepblue），超級電腦深藍的演算法是不斷地模擬試誤，最終超越人類的計算能力而取勝，這在當時引起了小小的轟動。但是對於圍棋來說，這樣的模擬試誤是不可能的，因為每一步後面的可能的變化數量超越了人類理性的邊界，據說圍棋每一步棋的可能性超過了宇宙里原子的數量。
Alphago深度思考演算法模擬了人類的左右腦分工，左腦負責理性的模擬計算和試誤，而右腦負責感性思維，對每一次的模擬試誤做出整體形勢的判斷，大量的棋譜被AI閱讀後，使得AI感性思維的能力，即對圍棋大局形勢的判斷能力在很短的時間得到極大地增強，最終讓人類的大腦在AI面前敗下陣來，而且敗的毫無招架之力。
大致了解了Alphago的演算法之後，我們可以歸納總結出：與上一代人工智慧IBM深藍（deep blue）最大的分別在於，新一代的AI繼承了老一代人工智慧的搜索、模擬、試誤功能，並在此基礎上增加了類似於人類的右腦的感性思維功能，通過對大量的資料的閱讀處理，AI形成類似於人類的直覺判斷，基於AI閱讀處理資料能力遠遠超越了人類，只要提供給AI的數據足夠大，在特定領域，AI超越和取代人類是必然趨勢。
AI無論是記憶體還是中央處理器，都來自於以半導體硅為主要材料的晶片，而人類的身體主要的構成元素是碳。如果未來硅基生命和碳基生命將展開競爭，人類作為碳基生命，是否將會處於十分不利的地位？硅基生命是否會跳出人類指定的「邏輯框架」（logic box），危害到碳基生命的生存？
這顯然是一個哲學命題，硅基生命是否在迭代演化中會超越碳基生命？筆者認為基於以下幾點理由，硅基生命有著它與生俱來的種種約束，而這些約束決定了硅基生命將永遠作為人類歷史的配角——生產工具而存在。
其一，AI在特定的領域要擊敗人類，首先必須要擁有足夠的數據資料，如果缺乏數據的情況下，AI就像是一輛沒有油的法拉利，根本無法動彈，更遑論超越人類。
其二，AI即使擁有了大數據，也只能在那個數據分布範圍的領域擊敗人類，而由於數據的專一性導致了AI開發出來有著非常顯著的針對性，極難被改變用途用於其他領域，因此，不存在AI可以全方位地與人類展開競爭的可能。
其三，碳基生命的迭代和演化在於基因遺傳中變異，這使得碳基生命的演化是非線性的，無規律可言，換句話說碳基生命無需第三者的參與，可以自主地因應環境變化，在基因突變、適者生存的法則下，不斷演化繁衍進步下去；而硅基生命的演化只能依照舊有的演算法，隨著資料庫的更新而更新，因此AI的演化是線性的有規律可循的，離開了人類，AI是無法完成對演算法的迭代更新，因為一個舊的演算法是無法產生一個新的演算法，就像一個人抓住自己的頭髮無法離開地面一樣。
因此，筆者認為AI是一種專用性很強的工具，在資料庫足夠大的情況下，AI確實十分powerful，甚至可以遠遠把人類拋在身後，但是它並不是一種類似於蒸汽機一樣的平台式的科技產品，有著廣泛的適用性。因此，AI給世界帶來的改變將無法與蒸汽機比擬，除非人類對數據收集的手段有很大的提高，否則AI給人類帶來的改變將僅僅局限於某些特定領域。
因此，AI再神奇，它也是為人所用的眾多勞動工具的一種。
寫到這裡，忽然想起自己，寒窗苦讀數十載，獲一博士頭銜，依稀還記得博士班開學時，老師說：一位博士就是在某個特定的細分領域的世界最頂尖的學者。今日，我一介書生，百事不曉，拙於家計，點燈燈滅，傾茶茶潑，雖胸有鴻鵠之志，然手無縛雞之力，吾亦AI乎？吾何所懼乎？故AI何所懼乎？
（康第，3/16/2018於香港）
TAG:康第 |