AI助手常「尬聊」？谷歌推出人機協作計劃，想讓AI助手更「懂人事」

科技 07-17

在人工智慧的「訓練」過程中，不全、不準確的數據就有可能造成AI「思想有問題」，而開發者們很多時候並不知道錯誤出在哪裡。谷歌的PAIR人機協作計劃想要解決這個問題。「PAIR」表示People + AI Research Initiative（人類+AI研究計劃）。

文 | 石筱玉

編輯 | 傅博

我們都知道，iPhone里的Siri能給我們講笑話，Amazon Echo里的Alexa還能協助你語音購物……不過嘗試幾次之後，我們也會發現Siri的「冷笑話」也那麼幾個，而大部分人都對Alexa的購物功能其實不太感興趣。

Siri的「唱歌」功能你有沒有試過？（圖片來自網路）

在普華永道人工智慧分析師Anand Rao的眼中，AI的問題還嚴重得多。由於現在的AI還不具有理解整句話意思的能力，它們依舊在抓取關鍵詞和用戶「尬聊」。因此，AI有時候會捅出挺大的簍子。Rao對VentureBeat這麼表示：

「有些很經典的例子……聊天機器人會說『這太棒了！快點告訴我你親人逝世的更多消息吧。』」

在這些案例之下，谷歌下定決心不讓自己的人工智慧語音助手Google Assistant和用戶繼續「尬聊」。為了提升人類與AI助手的關係，谷歌在7月10日宣布將要進行一個新的研究計劃：PAIR計劃。

「PAIR」表示People + AI Research Initiative（人類+AI研究計劃），將由Fernanda Viégas與Martin Wattenberg兩位數據可視化專家負責。他們最重要的一個任務就是研究如何讓AI更有「人性」。

PAIR計劃的背後，是谷歌長久以來一直推行的「HCML」（human-centered machine learning，以人為中心的機器學習）理念。在之前對這一理念的闡述中，谷歌的設計師們是這麼說的：

「設計者們還需要學習如何讓用戶覺得他們控制了技術，而不是技術控制他們……運用這一理念，我們能夠觀察機器學習是如何以人的需求為本，同時以獨特的方式解決這些只能由機器學習解決的問題。」

HCML-在獲得機器幫助的同時，人類也要對自己要解決的問題（即「需求」）有明確的認識。（來自谷歌）

在同一天，Viégas與Wattenberg還將Facets Overview和Facets Dive兩項可視化數據工具進行開源。在PAIR計劃的主頁上，我們能看到通往Facets工具的頁面。兩位作者是這麼形容Facets系列工具的：

「這些工具面向AI工程師開發，並且關注的是機器學習的最初階段。Facets工具能夠讓工程師們清楚知道用來訓練AI系統的數據分布。」

Facets工具的數據篩選頁面。

對於AI系統來說，要想做到對用戶的千百種要求「有求必應」，必須要建立在龐大的資料庫之上。以無人駕駛為例，AI的數據需求甚至催生了「AI訓練師」的新職位。「訓練師」們能夠在道路圖片中標註出行人、樹木、其他車輛等的形態，以供無人駕駛AI進行學習。

不過，生活中的語音助手面對著比無人駕駛更複雜的用戶訴求，同時也要收集各個年齡、偏好的用戶資料。在這一過程中Facets工具能夠方便地對於用戶進行分類與篩選，讓開發者們觀察自己的數據選擇有沒有出現偏頗。

根據《金融時報》的分析，谷歌的Facets工具是「以人為中心」的第一步，同時也反映了人工智慧行業一個更大的隱憂。

在人工智慧的「訓練」過程中，不全、不準確的數據就有可能造成AI「思想有問題」，而開發者們很多時候並不知道錯誤出在哪裡。就算在某些情況下AI系統能正常運作，AI也可能產生一些偏見，從而傷害到用戶的感情。

在PAIR計劃的官方頁面中，我們不僅能看到Facets工具，還發現谷歌在「以人為中心」思想下的多方面布局。其中不僅有自然語言與模型的解析，還有The Playground教育工具，與一個名叫Face2Cartoon、能夠通過照片做卡通頭像的軟體。

谷歌對Face2Cartoon的介紹圖。

Viégas與Wattenberg對谷歌的這個長遠計劃非常自豪。在他們眼中，這項計劃不僅能夠防止未來的AI助手與用戶「尬聊」，還能在學術、開發方面幫助研究者們。

關於他們的這些預期，文章中這樣寫道：

「工程師與研究者：AI是人類創造的。我們如何能讓工程師們更容易製造與理解機器學習系統？他們需要什麼樣的學習資料和實踐工具？

領域專家：AI如何能夠在專業工作中協助專家們？我們該如何幫助逐步開始使用AI的醫生、設計師、農民、音樂家們？

普通用戶：我們如何能保證機器學習的廣度，讓每一個使用者都從AI的技術突破中受益？『設計化思考』（design thinking）能否為我們帶來新的AI應用？我們能讓AI背後的技術『民主化』嗎？」

谷歌對於AI技術、思想的「民主化」不僅體現在PAIR計劃里。早在16年9月，谷歌就聯合Facebook、微軟、IBM、亞馬遜等人工智慧開發者，組成了Partnership on Artificial Intelligence to Benefit People and Society（人工智慧造福人類與社會合作組織，簡稱「人工智慧合作組織」）。

在16年早些時候，微軟剛剛因為推特機器人Tay AI的事情「焦頭爛額」。Tay的設定是一個「千禧一代」的少年，其生動活潑的言論曾受到不少人的喜愛。不過在和網民的互動中，由於一些用戶對Tay的不良引導，Tay最終在推特上說出了9.11事件的陰謀論與種族歧視言論。