為人工智慧糾錯

隨著人工智慧系統變得越來越普遍，一些小錯誤造成危險後果的幾率也在上升。比如，美國麻省理工學院的科學家最近就騙過了谷歌的一個人工智慧程序，讓程序錯把一隻塑料玩具龜當成一把來福槍。要是未來的機器人警察或者士兵犯下這種錯誤，很可能將會引發悲劇。人工智慧系統由數十億個虛擬「腦細胞」構成，現在，研究者正在研發新工具，以便找出其中可能隱藏的「bug」。

很多圖像識別程序、自動駕駛系統以及其他形式的人工智慧，都使用了人工神經網路，研究人員把數據輸入到該網路中被稱作「神經元」的部分，然後依靠這些神經元彼此合作來解決問題——諸如辨別出路上的一個障礙物。人工神經網路的「學習」方式是，不斷調整神經元間的連接，嘗試不同的解決方法。經過一段時間的學習，這套系統就能找出哪種神經連接模式效果最好。之後就會模擬人類大腦的學習過程，把這些模式作為默認設置。

美國哥倫比亞大學的計算機科學家楊俊鋒（Junfeng Yang）認為，這項技術面臨的一個關鍵挑戰是，開發者通常並不知道神經網路是如何決策的，這導致出錯後很難找出原因。2017年10月，在上海舉行的一場專題討論會上，楊俊峰和他人共同展示了一項新研究。

楊俊峰和同事開發了一個名叫DeepXplore的程序，可通過逆向分析人工智慧系統的學習過程，尋找系統中的漏洞。該程序會把真實世界中各種難以分辨的場景，輸入某個神經網路進行測試，並且會在網路判斷錯誤時予以告知，這樣神經網路就能自行糾錯。比如，DeepXplore能夠判斷，某個無人駕駛系統在接收到攝像機傳入的照片後，是否會錯誤地把車導向行人。該調試工具還能監測神經網路中哪些神經元處在活躍狀態，並且能單獨測試每個神經元。楊俊峰說，之前的人工智慧調試工具無法單獨檢查每個神經元。

對15個最先進的神經網路——包括一些用於自動駕駛和檢測計算機惡意軟體的人工智慧系統進行測試後，DeepXplore新發現了數千個技術遺漏。DeepXplore把人工智慧系統整體的準確率提升了1%至3%，某些系統的準確率甚至達到了99%。美國芝加哥大學計算機科學家盧山（未參與此項新研究）稱，DeepXplore可以幫助科學家開發出「更準確、更可靠的」神經網路。「這項技術對很多研究性學科和人們的日常生活都將產生積極的作用」。

撰文：Charles Q. Choi

翻譯：張哲

本文來自：環球科學

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！