思想 | 人工智慧的未來：沒有「人工」，只有「智能」！

選自 TechCrunch

作者：Jarno M.Koponen

機器之心編譯

參與：王紫薇、Wenhui Li

人工智慧正在逐步隱藏其外形、顯露其核心。而關於人工智慧科技的確切影響與工作，人類對它的觀察和理解也變得越加具有挑戰性。即使是專家們自己也並不總能完全理解人工智慧系統是如何運行的。

實際上，隨著人工智慧影響力的增強，我們理解人工智慧影響力的局限則變得越來越多。這對人類能動性和人工智慧的未來意味著什麼？

逃離智能

在不遠的將來，人工智慧將普遍的對人類而言會變得無法觸及、不能分辨和不可思議。

首先，人工智慧並不必然需要一個看得見摸得著的具象外形。它可以通過各種中間人來展現自己，比如通過圖形用戶界面或者語音界面。我們已經都不需要看一眼就信任 Spotify 的推薦，或者與 Siri 和 Alexa 聊天，就好像它們是受召喚而出的精神體，是沒有可觸外形的智能。

其次，人工智慧以通過圖靈測試（the Turing test）或者更相關的變體測試而變得隱身。那些能夠模擬人類層次的溝通、認知和情緒能力的人工智慧系統，會在人群中無法被分辨。因此，人工智慧的「人工性」對我們來說也就變得無法察覺。

第三，也最為重要的是，當人工智慧的影響和科技動態的細節超越了人類的感知和理解，人工智慧就逃離了人類的監視。我們能感覺得到智能系統的存在和影響，但是我們再也無法完全理解這些系統在做什麼，它們如何達到它們的目標或者什麼是它們確切的影響。

這就意味著，人工智慧科技將會很快超越克拉克第三基本定律（Clarke』s third law），處於一種「任何足夠先進的科技都無異於魔術。」的境地。實際上，我們將再也沒有機會分辨出這些魔術——甚至連是否有魔術發生都意識不到。

不可思議的智能

據此，我們能夠察覺到人工智慧的體現和存在，但是智能本身對於人類感官而言將變得不可知。如今，人工智慧的發展過程中有兩個明顯特質。

首先，大多數演算法系統和近期人工智慧科技的進步都是黑盒；對大多數人來說它們是難以接近，深不可測並且不可控的。

因此，想要觀察或評估人工智慧系統是如何在線上和線下塑造你的生活還是很困難，不論是你的最新歌曲推薦還是個人保險政策，更不用說那些影響著全球市場經濟的充滿計算的股市交易了，它幾乎影響著現代生活的每一個方面。

具體來說，當智能系統的行動變得更全面地與個人、社會、文化、政治和經濟的系統交織起來時，要辨別機器智能本身的實際影響和結果就變得極具挑戰性。

其次，人工智慧科技正變得十分複雜，以至於它們很難被理解——甚至對於設計和開發它們的專家來說也是如此。機器學習專家 Pedro Domingos 在他的新書《The Master Algorithm》里指出，回溯到 20 世紀 50 年代，科學家們就已經創造出了一種人類所不能完全理解的演算法。

相反，這個開發還沒有改變這一進程。以人工智慧發展的現有節奏，就連經驗豐富的專家們也不時覺得難以跟進。

今天，各類的機器學習系統已經能夠在不同領域提供讓人以外的深刻見解了，從個人化科技到粒子物理學，從烹飪菜譜和古怪的異國遊戲到犯罪預防和生物工程。具體而言，專業系統可以推動生物學的科學發現，或者幫你選擇到達下個會議地點最優的路徑。

當一個智能系統變得更通用、更能夠自我學習和自我調整時，人類跟蹤它準確的動態就更困難。隨著開發的深入，當一個超快的自我學習、自我組裝的人工智慧系統開始比人類以往任何時候都更快地開發並建造自己的時候，它將永遠地脫離我們的智力。最終，人工智慧系統將會基於它們自己的行為成為領銜專家，比人類曾經任何時候都更好地預測它們自己的未來。

因此，老練的人工智慧科技將會基於一系列任何人類——甚至專家都不能理解的互動上，提供合理並正確的洞察。如果是這樣，我們是否能繼續在沒有人工智慧的幫助下，得出確切的科學結論或考慮周全的決定呢？

交織著的智能

就像任何重大的科技革新和其在主流中的融入，人工智慧正在從一顆晦澀的好奇心成為一個強有力的實用體。結果是，明日世界最有價值的資產也許會是一個人類不能完全理解或控制的智能系統。

在這同時，人工智慧正成為一個史無前例的文化科技現象，影響著我們評估和定義「智能」本身的方式。據此而言，人類智能可能無法對智能本身做出最相關的測量。人工智慧里的「人工」兩個字也開始失去意義了。

今天，人類智能在塑造著人工智慧，而越來越多的人工智慧也開始塑造人類智能。當人工智慧系統的影響增強，更多人就需要去理解它們的工作和影響。為了實現這一點，我們需要能增強人類智能，從而讓我們能與多樣的智能系統樣本可持續地互動。

首先，增強人類研究員、設計師和工程師的能力以追趕他們所建造的人工智慧科技，這很重要。除了更好的實踐、工具和技術外，多樣的跨學科團隊亦能幫助我們更好地理解智能系統的工作方式和影響。

第二，儘可能多的人需要擁有與自己團隊里的人工智慧互動的能力。新的學習遊戲正讓孩子學習到編程和機器人學，並了解智能系統與其可能性。像 Algorithmic Angels 這樣的系統，通過呈現智能系統在我們日常生活中的影響，並讓人們決定它們在個人層面的互動， 讓「機器中的幽靈（the ghost in the machine）」更觸手可及、不可辨識，但更易理解。

黑盒中的秘密需要被揭露出來，從而在機構間產生更大規模的合作。讓人工智慧「民主化」可以為更多人創造出更多的方式來設計和開發出智能系統的新方案。就像編碼和媒介素養（media literacy）在今天是必不可少的技能一樣，能夠理解並使用智能系統也會成為將來的必備技能。

人工智慧技術將為沿著這個方向進化成為一個平台，一個像互聯網一樣的基礎設施，這個平台可以讓人們自行決定如何優化人工智慧，或者是如何為它的設計和開發做出貢獻。就像物聯網一樣，這樣的人工智慧網路將會在不同環境和領域激發更多體驗和應用，向專家和開發者等開放，這將顯著改變人們理解人工智慧以及和智能系統進行互動的方式。人類智能和機器智能將以前所未見的方式交織在一起。

物理現實和數字現實的邊界正在消散。當人類和智能系統的關係變得更加親密無間時，他們之間的邊界可能會開始消散。「人工」將會在「智能」之前率先消失，從而使人工智慧這一概念變得不相關，並且被淘汰。

本文由機器之心編譯，轉載請聯繫本公眾號獲得授權。

------------------------------------------------

請您繼續閱讀更多來自 機器之心 的精彩文章:

※人工智慧：讓汽車和你對話不是沒有可能
※最有「官德」的人是誰？窮得連盡孝的能力都沒有！
※星雲法師：人不能沒有良心！
※但是，沒有夢想、沒有思路才是最可怕的
※「沒有收不到的信息，只有不想回復的人」
※人沒有做不到的，只有不想做的
※你是遇不到合適的人，還是沒有能力去愛？
※沒有收不到的信息，只有不想回復的人
※沒有人不喜歡，任何人哦！
※良工熊三，沒有女人，後來卻有了個女兒「有故事的人」
※遇上沒有感覺的男人，女人也會「性無能」？
※不「色」的女人，是沒有未來的！
※人生沒有不幸福的人，只有不肯快樂的心
※沒有人會永遠孤獨，總有一種愛，能夠溫暖你
※德國為什麼能夠重新統一？沒有這個人，不可能！
※世間沒有過不去的事，只有想不通的人
※沒有人比你更了解自己，再難有人打動你的心
※沒有不好的狗狗，只有不好的主人
※死這麼多人，美國人為何還是不能沒有槍？