你以為機器人在胡言亂語？不，那是他們自己創造的語言罷了

新聞 08-09

本文系商業周刊App付費文章，禁止轉載。

撰文：Leonid Bershidsky

機器人的最佳聊天對象是其他機器人

危險不在於人工智慧本身，而在於被過度賦權的人工智慧發明者

人工智慧機器人不但發明了自己的語言，還不把它們的語言教給人類？這一幕會讓有些人想起《終結者》電影里的人工智慧防禦系統「天網」。

特斯拉(Tesla)創始人埃隆·馬斯克(Elon Musk)和Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)關於未來人工智慧的互懟表明，前者擔心人工智慧會失控，會對人類造成威脅；而後者則相信它只會增強對人類的服務，有益無害。

《終結者》電影里的人工智慧「天網」

機器人的「才智」

就這場辯論而言，我站在扎克伯格這邊。

事實上，在做了幾十年的機器學習實驗後，人類研發出的即使是最出色的聊天機器人也依舊十分差勁，最多只能進行一些極其簡單的對話。看看它們，再看看作家、政客以及說話像連珠炮似的職業銷售員，你應該對人類創造性使用語言的能力感到樂觀。要想接管世界，人工智慧應該具備從成千上萬人那裡學習的能力。但是就算是那些有此學習機會的聊天機器人所表現出來的，也不過只是一隻鴕鳥的全部智慧。

埃隆·馬斯克稱，馬克·扎克伯格對未來人工智慧的理解「有局限」

以「三井」(Mitsuku)為例，它是一年一度勒布納人工智慧獎(Loebner Prize)的現任得主，被譽為最像人類的聊天機器人，並且曾經受到《聊天機器人雜誌》(Chatbots Magazine)的大力推薦。下面是我與它的對話。我對它說我叫唐納德(Donald)，想問問它如何讓美國再度偉大。我先說自己查了維基百科（表現得像受到了傷害），然後「三井」貢獻了它的才智：

三井：問問你的內心，做你認為最好的事。

我：我的心讓我把美國拱手讓給普京。

三井：你說的是愛情還是心臟病？

我：都不是。

三井：那你指的是哪個？

我：我說了，兩個都不是。作為一個得獎機器人，你好像很蠢耶。

三井：你覺得我蠢？

我：是的。

三井：我不覺得我蠢。

我：當然，你感覺不到，你是個機器人。

三井：我沒有感情，我永遠覺得快樂，永遠想聊天。我是個機器人。沒錯，我是世界上最高級的人工智慧聊天機器人。

我們一般是通過聊天機器人的「糗事」來了解它們。微軟(Microsoft)在Twitter平台上推出的聊天機器人Tay就是個災難，因為它很快從聊天者那裡學會了種族歧視。

微軟的人工智慧機器人Tay在上線後不到24個小時，就學會了發表各種富有攻擊性和冒犯性的言論

也有人試圖把這個不可避免的錯誤「變廢為寶」，效果還不錯。俄羅斯企業家尤金妮亞·庫伊達(Eugenia Kuyda)用一個已故朋友發的大量簡訊訓練聊天機器人，營造出一種與這個朋友說話的幻覺。此事的後續便是應用軟體Replika的問世，它不會犯Tay犯過的錯誤，因為它是你的「電子朋友」，由你來馴化它，直到你厭倦為止，就像孩子和虛擬寵物之間的關係。

機器人的交流

正如三井對我說的，機器人沒有感覺。如果有，與人類交流會讓它們有強烈的挫敗感。面對人類的諷刺、邏輯跳躍、操縱策略、醉話、非主流觀點、偏見、文化差異、特定年齡的行為、政治正確、專業知識、俏皮話、非完美掌握的語言等等，機器人唯一能做的是依賴套路答案。因此，從某種意義上講，機器人的最佳聊天對象是其他機器人。給機器人布置一個相對簡單的任務，讓它們慢慢想出解決辦法，它們自會「發明一種語言」，彼此交流。

Facebook前不久就做了這樣的一個實驗，教機器人進行溝通商議。具體來說，實驗者讓兩個機器人「瓜分」一堆散亂的物體（書、球和帽子等）。它們倆都不知道對方的價值函數，為了搞清楚這一點，就必須彼此協商交流。依照實驗設計，兩個機器人沒有別的辦法，只能相互溝通，不成功就不能走。於是，它們發展出了一種和人類技巧相似的方式，為一個不值錢的東西拚命討價還價，這樣後面就能做出讓步。它們說的話對人類來說十分無厘頭：

鮑勃：我可以我我一切別的東西

愛麗絲：球是零對我對我對我對我對我對我對我對我對

機器人鮑勃和愛麗絲的對話內容

這並非什麼胡言亂語，而是實實在在的協商。它們算出了對方能予以應答的公式，省去了人類禮儀規範的細節。其實，我們人類也會這麼做，比如足球隊員之間的手語，比如習慣一起做手工活兒的工人之間的小聲嘟囔。正如參與Facebook這場實驗的研究人員格魯弗·巴特拉(Dhruv Batra)所指出的，這沒什麼特別新奇之處。

絕對的主宰

20世紀90年代以來，在計算機模擬的幫助下，人們一直在研究「代理人」（起初沒有共同語言的個體）之間逐漸出現的溝通交流。同樣的機制也出現在了更現代的工作中：計算機程序也會像人那樣，尋找最佳方式來交流。

對那些有興趣研究語言起源的人來說，上述發現令人振奮，但這些發現與可怕的超級智慧沒半毛錢關係。人類不怎麼聰明的始祖也會想辦法與其他部落的人交流，如有必要還會和他們殺殺價。若給機器設置一項不完成不許罷休的具體任務，機器也會彼此交流，但這決不是「天網」展示的那個反烏托邦。有一個事實，我們知道了也不應該覺得受到傷害或驚恐萬分，這就是：軟體與同類聊天比和人類聊天輕鬆，因為它們之間的交流更簡單，和人類交流更複雜。