我們收集了150份設計建議，整合成這份《人工智慧交互指南》
新智元推薦
來源：微軟亞洲研究院
【新智元導讀】微軟研究院基於前人對搭建高效人工智慧交互系統等相關問題的研究成果，整合成一份《人工智慧交互指南》。該指南共分為四個板塊，規定了交互初始階段、用戶與系統交互過程中、系統出錯情況下以及隨著時間推移，人工智慧系統分別應該如何表現。
編者按：隨著人工智慧技術的發展，越來越多的AI技術被應用於各類產品和服務中，這也為AI設計師帶來了許多挑戰。微軟研究院的研究人員基於前人對搭建高效人工智慧交互系統等相關問題的研究成果，整合成一份《人工智慧交互指南》。該指南共分為四個板塊，規定了交互初始階段、用戶與系統交互過程中、系統出錯情況下以及隨著時間推移，人工智慧系統分別應該如何表現。
這份指南不僅為AI設計師提供了具體、可操作的建議，還旨在推動用戶體驗和工程開發從業者就設計決策的相關問題展開討論，推動這一領域研究的進步。
（本文編譯自微軟研究院博客文章「Guidelines for human-AI interaction design」）
AI的可用性和準確性日益提升，激發了面向用戶的主流應用和服務採用AI技術的熱潮，伴隨著各種人工智慧服務產品到來的，還有對以人為本設計的最佳實踐方法和實踐指南的挑戰和質疑。為了滿足這方面的需求，由微軟研究人員組成的專門團隊對一系列人工智慧交互指南進行了整合與考證。對於面對的各種複雜局面，AI設計師急需一份最佳實踐指引，而上述研究正是朝著這個方向邁出的重要一步。
為了整合包括預測、識別和自然語言理解等在內的人工智慧服務，AI設計師需要思考許多新的問題，例如，交互設計人員必須解決人工智慧系統推理失敗與成功的幾率問題，機器學習帶來的系統行為改變問題，以及AI功能的可理解性和可控性問題。
當前AI設計本身存在多變性，而當用戶無法有效理解或控制人工智慧系統時（例如，半自動車輛事故），就會出現有關意外事件的大肆報道。這些都凸顯了提供更直觀、更有效的AI用戶體驗的重要意義。有關設計以人為本的人工智慧系統的討論從未間斷，AI設計師也迫切希望得到可靠的相關設計指南。
在過去20年間，科學家和工程師提出了不少有關AI系統有效交互設計的指南和建議。內容涵蓋用戶預期管理、自主程度調節、歧義解決，以及幫助人們認識隨著系統對用戶的了解不斷加深而可能發生的變化。不幸的是，這些設計建議多分散在不同的出版物中，而且很少作為指南明確提出。微軟研究團隊收集了150餘份設計建議，對它們加以提煉和驗證，最終整合成一份統一的指南，讓AI設計人員都能夠以現有知識為基礎，不斷向前發展。
「此前並沒有一套針對人工智慧直觀交互系統的統一指南，而我們正著手創建這樣一套指南，並對其加以驗證，」負責《人工智慧交互指南》開發項目的研究員Saleema Amershi說。
《人工智慧交互指南》（及其開發和驗證流程）將在蘇格蘭格拉斯哥舉行的2019年CHI大會上發布。團隊成員Saleema Amershi、Dan Weld、Mihaela Vorvoreanu、Adam Fourney、Besmira Nushi、Penny Collisson、Jina Suh、Shamsi Iqbal、Paul Bennett、Kori Inkpen、Jaime Teevan、Ruth Kikin-Gil和Eric Horvitz對20多年來學術界和工業界在人工智慧設計方面的認知和思考進行了整合，使之成為一套精鍊而又具有普適性的人工智慧交互設計指南。
這篇CHI 2019入選論文《人工智慧交互指南》將各種涉及面廣泛、內容具體的指南整合成一套可以被普遍接受的指南，同時也是對Eric Horvitz在CHI 1999上發表那篇開創性論文的20周年紀念。這篇論文提出了將人類和人工智慧的能力有機結合，以及人工智慧和人類混合動力的原則。
微軟研究人員遵循嚴格的流程，首先收集了150多份與AI相關的來自權威來源的設計建議，包括學術研究論文、博客文章和一些內部資料。在對主題分類後，研究人員對內容進行了精簡。然後，他們與用戶體驗（UX）和人機交互（HCI）專家聯手，展開多輪評估，以確保這份指南易於理解，並且適用於各種流行的AI產品。
「我們希望確保指南的內容具體，並且能夠在UI層面產生可觀察的效果。因此，我們剔除了一些諸如『設定期望』或『建立信任』之類的總體原則，並將其轉化為具體、可操作的指南」資深項目經理Mihaela Vorvoreanu說。
研究人員總結的18項人工智慧交互指南共分為四個板塊，規定了交互初始階段、用戶與系統交互過程中、系統出錯情況下以及隨著時間推移，人工智慧系統分別應該如何表現。雖然《人工智慧交互指南》旨在為設計決策提供支持，但它不是一份簡單的檢查清單，更是意在支持和推動用戶體驗和工程開發從業者就設計決策的相關問題展開對話，並推動該領域更深入的研究。作者也認識到，在很多情況下，AI設計師必須在各項指南之間做出取捨，權衡不同因素的重要性。但同時，不斷豐富的AI產品功能和用例也需要更多的設計指導。
準則10：有疑問時調整服務範圍。當Word中的「自動替換」功能對某項更正操作存疑時，它會顯示多個選項供用戶從中選擇，以此消除歧義。
《人工智慧交互指南》的制定和驗證以圖形用戶界面產品為依據，但也可以針對語音交互甚至半自動駕駛車輛等特殊的高風險用途加以具體化擴展或修改。
微軟研究院院長Eric Horvitz表示：「我們仍處於利用人工智慧技術擴展人類能力的早期階段。未來還有很多機會，當然也面臨著許多有趣的挑戰。其中的一個重要方向就是分享和完善有關將AI功能集成到人機交互體驗中的原則和設計。」
準則15：鼓勵細化的反饋。Ideas in Excel功能幫助用戶通過高級的可視化總結、趨勢圖和模式圖來理解數據。通過「這對您是否有幫助？」的提問，鼓勵大家對Excel提供的每項建議給予反饋。
《人工智慧交互指南》的意義或許已經超越了AI設計範疇，延伸至對「負責任和值得信賴的人工智慧」的討論。2018年11月，微軟埃忒爾道德委員會（Aether Committee）發布了一份關於聊天機器人和虛擬助手等會話界面設計的指南——《負責任的機器人：對話AI開發者的10大指南》。
該委員會由微軟首席執行官薩提亞·納德拉親自宣布成立，專註於AI技術的負責任開發與應用等議題，以確保公司的AI研發工作符合微軟的核心價值觀和原則，並能夠使整個社會受益。埃忒爾道德委員會下設幾個專題工作組，Amershi擔任人機交互與協作工作組的聯合主席。
人工智慧交互設計指南
初始階段
01. 明確系統可以做什麼
幫助用戶了解AI系統能夠做什麼。
02. 明確系統的能力限度
幫助用戶了解AI系統的出錯頻率。
在互動期間
03. 基於情境為服務設定時間
根據用戶當前的任務和環境，設定執行或中斷操作的時間。
04. 顯示與用戶使用情境相關的信息
顯示與用戶當前任務和環境相關的信息。
05. 符合相關社會規範
提供符合用戶社會文化背景的體驗。
06. 減少社會偏見
確保AI系統的語言和行為不會強化刻板印象及偏見。
系統出錯時
07. 支持高效的調用
在需要時可以輕鬆調用或請求AI系統的服務。
08. 支持高效解除
要能夠輕鬆解除或忽略不需要的AI系統服務。
09. 支持有效的糾正
當AI系統出錯時，能夠輕鬆編輯、優化或恢復。
10. 有疑問時調整服務範圍
如果不能確定用戶的使用目的，調用消除歧義功能或減少AI系統的服務。
11. 明確解釋系統為什麼會這樣做
讓用戶能夠訪問AI系統行為的原因說明。
隨著時間推移
12. 存儲近期互動
保留短期互動記錄，並允許用戶有效地查看這些記錄。
13. 了解用戶行為。
逐漸學慣用戶行為，實現用戶體驗的個性化。
14. 謹慎地更新和調整。
在更新和調整AI系統的行為時，盡量避免顛覆性的變化。
15. 鼓勵細化的反饋
在用戶與AI系統的交互期間，鼓勵用戶提供反映其偏好的反饋。
16. 告知用戶操作的後果
提醒或告知用戶他們的操作將如何影響AI系統之後的行為。
17. 為用戶提供對AI系統的完全控制
允許用戶全權控制AI系統監控的內容及其行為方式。
18. 將變更信息告知用戶
當AI系統添加或更新功能時，通知用戶。
論文鏈接：
https://www.microsoft.com/en-us/research/publication/guidelines-for-human-ai-interaction/
※史上最強AI被噴，馬斯克躺槍發推：我早就看不慣OpenAI
TAG:新智元 |