Google：語音AI會在人類面前自證身份

Google 在開發者大會上公布了一個能模擬人類語音叫外賣的人工智慧，但是隨之而來的確實大範圍的反對聲，因為Google的Duplex帶來了一個倫理困境，不過Google隨後表示這個實驗性的系統會「自己表明身份。」這就是說，無論Duplex作為一個消費級產品最終以何種形態出現，都有一個內置的語音聲明，會對溝通的另一方表明自己AI的身份。

「我們理解大家對Google Duplex的討論和評價——如我們在剛開始說的那樣，技術的透明度十分重要，」一位Google的發言人對The Verge說到。「我們內置了自證身份的功能，我們會確保系統被合理識別。我們在I/O上展示的只是一個早期測試版，我們會在開發過程中吸收大家的建議。」

Duplex到目前為止都還不成熟，Google的CEO Sundar Pichai在開發者大會的舞台上也只演示了一個預定的功能而已。這個DEMO顯示了在使用了DeepMind的新WaveNet語音生產技術和其他自然語言處理技術後，Google Assistant 的聲音可以聽起來更像人聲，這些技術能幫助軟體模擬人的語言習慣。例如，Duplex 會使用一些類似「額」和「嗯」等口語辭彙，所以能聽起來像真人。

然而，這個軟體從一開始就是帶有欺騙性質的——這演示中騙了一位髮廊的客服——這會激起科技評論家們和懼怕無監管AI的人的警惕心。科技評論員Zeynep Tufekci稱這次的演示「可怕至極」。而開發者大會觀眾的反應則是「矽谷喪失了道德感，沒有了目標，他們什麼都不懂。」

Google最初在一篇由工程師Yaniv Leviathan和Yossi Matias寫的博文上說，「對於我們來說，用戶和企業在使用這項服務時體驗良好是非常重要的，透明度是其中的關鍵。我們希望澄清打這個電話的初衷，這樣大家就能明白當時的語境。」Google將在今年夏天正式將Duplex接入 Assistant platform開始測試前做好這件事情。

不過這家公司可沒在開發者大會的舞台上直接說明「自證身份」是一個強制性的特性。隨後，在大會結束以後，Google的代表對The Verge說，他們覺得有必要告訴與Duplex說話的人，他們其實在和一個機器對話，而且Assistant團隊也會保護該功能不會被濫用，如騷擾電話。現在，Google似乎想確保公眾覺得他們在輿論的影響下提升了技術的透明性。這其中就包括Duplex會為了多方利益而「自證身份」。

本文譯自 theverge，由譯者 Dkphhh 基於創作共用協議(BY-NC)發布。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！