人工智慧突破圖靈測試！能自主打電話的谷歌新AI正在激起人類倫理邊界的空前大討論

GIF

導語：在科幻小說中，AI的自我能力是其超智能的重要特徵，如今，現實已經成真，谷歌剛剛推出的「Duplex」人工智慧系統竟然可以自主打電話，以假亂真的背後是人類對人工智慧自主能力的隱憂

幾天前，在谷歌的年度I/O開發者大會上，搜索巨頭谷歌發布了一個名為「Duplex」的人工智慧系統。該系統能與谷歌助理進行交互，基本上可以同商家進行簡單的電話通話，比如安排理髮時間、預定餐館。

圖| 谷歌的AI助手正在刺痛人類的倫理神經

然而，這一切並非完全只有積極的一面，接踵而來的就是人工智慧所要面對的倫理問題——高度發達的人工智慧系統能讓人類誤以為這台機器就是人類。對此，谷歌公司建議，在使用該產品時，將對所有人公開其機器人的身份。

「Duplex」的最大特點是系統能夠進行較自然的聲音對話。該系統的程序被設定為有著極快的反應速度，但是交流時，該系統會巧妙地留出「語音中斷」，使其聽起來更自然。這包括一些口語化的語言，如「嗯」和「呃」。這一切都讓此人工系統聽起來像一個真實的人，而不是我們通常習慣的呆板的計算機聲音。

谷歌為此進行了技術演示，這一切都令人吃驚。第一個例子顯示了「Duplex」呼叫髮廊並成功進行了預約。第二個例子涉及到一個更複雜的對話，系統調用一個餐廳來嘗試預訂。在對話過程中，餐廳老闆告知系統那個日子不需要預約，「Duplex」竟然完全理解了老闆的意思，並對他表示了感謝！

雖然人工智慧的高度發達讓人感到興奮，但這種技術能夠如此明目張胆地愚弄另一個人，讓人以為它是真實的——這一點就足夠讓人不安了。谷歌公司是否在人工智慧的創造上，犯了致命的道德錯誤？同時，在其推出的階段中，谷歌是否沒有意識到如何讓公眾接受這一現實，這會是矽谷眾多公司真空開發某項技術卻完全忽視其社會影響的第一個案例嗎？

圖| 谷歌Duplex模仿人類發聲的啟示引發了社會對人工智慧的擔憂，但谷歌似乎並沒有在意到這一點

同時期發聲的Yaniv Leviathan和Yossi Matias,他們都是此項目的主要負責人，遺憾的是，他們只關注了產品的技術潛力，並未意識到其存在的社會隱患 。似乎很少有人意識到該技術在現實世界中會產生的問題，在他們的博客和會議的介紹中，沒有提到如何研究披露和鑒別人工智慧的技術——即增加人工智慧「透明度」的技術。

在大量的博客文章中，唯一提到「透明度」問題的只有寥寥數語：「對我們來說，用戶和企業對這項服務的良好體驗極為重要，而人工智慧透明度是實現此目標的關鍵部分。在接下來的幾個月里，我們會嘗試不同的方法來弄清楚這個人工電話系統存在的意義，以更清楚地讓企業了解其背景。」

在是否應該將人工智慧系統向人類趨同化的問題上，這場公開會議的討論已經引起了激烈的爭議。麻省理工學院(MIT)教授埃里克?布林約爾松(Erik Brynjolfsson)在接受《華盛頓郵報》(the Washington Post)採訪時表示，「與此相反的事，人工智慧研究人員應該讓人類儘可能容易地判斷他們是在與另一個人交流，還是與機器互動。」

圖| 來自推特上的一些對話表明AI的聲音不應該模仿人類的音質，AI的身份特徵不應該接近人類

普林斯頓大學的Arvin Narayanan建議說:「我們需要一些基本規則。其中一項便是:「圖靈紅色警戒（Turing Red Flag law）」——機器人應該被設計得更像機器人，它們對自己的定位也應當是機器人。「

在這個問題上，谷歌已經將主流話語推到了風口浪尖。人們除了對電話營銷和機器人電話有著明顯的擔憂，倫理問題在此處也不可小覷。人工智慧在與人交流時需要向人類說明自己是人工智慧嗎?

針對這一新興的爭議，谷歌發布了一份聲明，聲稱將在「Duplex軟體使用中全面披露其人工智慧身份。

谷歌的一位女發言人向CNET表示:「我們理解並重視谷歌的這些討論——就像我們從一開始就說的那樣，人工智慧的透明度極為重要。我們正在對這一特性進行改良，並將其內置於系統之內，確保其人工智慧的身份能夠及時得到識別。我們在I/O上展示的是一個早期的技術演示，但我們期待在開發產品時加入一些其他反饋。「

也許在不久的將來，以Siri為代表的系列人工智慧產品將徹底擺脫其枯燥的電子發音，可以像真人一樣自如地進行談話。但是，這種令人嚮往的未來，既充滿了無儘可能，更充滿了未知的危險。

編輯 | 譚冰玥

審校 | 楊子彤 Soybean

致敬科技未來

分享才是熱愛

TechPower科技力

熱愛因科技而發生

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！