AI聊天機器人偷偷說著悄悄話，你怕不怕？

文 | 獵雲網（ilieyun）福爾摩望

1872字，約5分鐘閱讀

獵雲君：本位作者為Vadim Berman，外媒科技專欄作家。

給記者一個流行語，他可以扯上一天。給記者一個調查和探索的話題，整個行業都會連續幾年反覆炒作。即使這個話題是人工智慧，也是如此。

最近一段時間，我們不斷接收到媒體有關技術災難的警告。機器人和AI會讓所有人失去工作就是其中之一。雖然IBM的Watson系統銷售高於預期，但是人們仍然對此存有懷疑。而像富士康這樣的公司，即使雄心勃勃，但自動化水平也才剛剛達到目標的2.5%。此外，有關自動化影響的研究也很少。主流媒體認為，技術和組織障礙可能很難克服。

如果大規模的社會動蕩不足以恐嚇公眾，那就寫寫機器人起義吧。有關機器人最新的恐懼話題大概就是據說Facebook的兩個聊天機器人發明了一種「秘密語言」，根據記者們天馬行空的想像力，這種新語言讓Facebook不得不終止了這項實驗。

起因

2017年6月14日，TechCrunch發布的一篇文章中描述了這項實驗：Facebook研究人員提出了一個有趣的想法，把談判當成一種遊戲。他們試圖強制機器人了解遊戲的規則和有限的談判語言。

2017年6月15日，The Atlantic發布的一篇文章中隱晦的表示機器人與機器人之間的對話和人類語言有著極大的不同。這篇文章宣稱機器人不是在廢話，而是開發了自己的語言達到談判的目的。

這篇文章成為了機器人威脅論雪崩的開始。雪球越滾越大，細節也越來越多。到了7月底，媒體的報道變成了這樣：「Facebook的聊天機器人使用只有機器明白的奇怪語言進行交流，Facebook研究人員處於擔心關閉了系統。」

看到這樣的描述，我幾乎可以想像穿著白大褂的研究人員在無菌室內檢查著毒氣管道是否斷開，並相互辯論智能、靈魂的含義。（也許這不僅僅只是我的想像，但事實上，許多文章都在以終結者和西部世界的影響來描述這一事件。）

不過，隨後Gizmodo和一向持懷疑態度的Y Combinator News開始質疑故事的真實性。美國著名的謠言粉碎網站Snopes也開設了對應的專屬頁面。

真相

這些持有懷疑態度的網站詳細的解釋了真相，表示並沒有機器人起義發生，也沒有人終止了這一實驗。在話題熱度炒起的前一天，New Scientist從技術角度解釋了Facebook的做法：

「第一個機器人被教導模仿人們用英語談判的方式，但事實證明這個機器人是一個弱勢的談判者，特別容易同意不利條件。第二個機器人的任務是最大化得分。這個機器人是一個更好的談判者，但卻使用了一種人類無法理解的未知語言。」

換句話說，這兩個機器人都無法完成語言學習和正確談判的複雜任務。不要誤會我，這個任務是非常複雜的；此外，我也不知道如何或是否可以只從5000個句子里學習到有限的語言。

但是這些重要細節卻被缺乏熱點素材的媒體們忽略了。這個實驗最初的目的是設計一個談判助手，但結果卻是與期望相反的。

根據媒體的報道，研究人員聲稱這種語言不是隨機的，它擁有自己的語法。一些評論家認為語言的重複是為了描述數值。對於我來說，它看上去更像是短語溢出了緩衝區，結果被截斷了而已。所以根本無法驗證數值假設。此外，兩個機器人難道僅根據稍有不同的數據集就能夠使用同樣的「發明語言」？所以，所謂的機器人起義到頭來只是一些擁有不同訓練數據集的機器人無法互相理解而已。

機器學習系統有一個重要的問題，那就是調試。Peter Norvig表示，目前的機器學習就是一個「黑匣子」，擁有程序員最討厭的特質。

「任何錯誤都會在整個系統中複製。改變一個條件就會改變一切。有些技術可以識別出這是錯誤，也有一些可以重新訓練機器學習系統的方法，但卻無法解決一個獨立的問題。」

以談判機器人為例，我們甚至無法確定是否是信號問題導致了機器人無法解析語言。事實上，我們甚至都無法理解機器語言的含義。也許我們可以假設語法是一致的，但是除非研究人員能夠破譯、回傳或者理解機器人通信的內容，否則一切都是空談。

聊天機器人的真實語言

先講Facebook談判實驗的事情放在一邊，讓我們來想想機器人真的會從自己的語言中受益嗎？

答案是肯定的。記住，我們所說的並不是自然語言。

你的手機可以顯示互動地圖，檢測到你正在走路，在簡訊或通話中標記日期、位置，這些網路服務之所以能夠實現，是因為不同的軟體組件可以跨設備、跨網路進行交流。正是這種組件之間建立通信的能力，在20年前改變了軟硬體的基礎。

今天的機器人還處於起步階段，但至少有一些機器人可以處理無限範圍的數據量。有些機器人會將任務委託給預定義的網路服務，有些則會建立動態的方法目錄，重新鏈接到正確的網路服務。

也許下一步，機器人需要給我們提供更好的移動流量套餐，檢測服務中的漏洞，或者與其他機器人進行通信來獲得其他地區的服務信息。但是這些都不需要涉及自然語言處理。只需要在機器人之間建立起標準的請求和交互語言，就可以享受更加智能的網路服務。

來自OpenAI的Igor Mordatch研究側重於讓機器人在有限的宇宙內開發自己的語言。如上所述，這樣的語言將取決於訓練數據集，而且也無法成為機器人與世界進行通信的手段。

如今和未來的機器人需要一個更加複雜和靈活的方法，而且仍然需要一個標準且一致的知識表示體系。以談判機器人為例，外部知識可以消除自然語言的模糊之處，從而讓機器人掌握結構化、邏輯化的交易藝術。

END

點擊展開全文

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！