AI專家警告：人類與人工智慧的關係可能導致惡性循環

【網易智能訊 6月12日消息】麻省理工學院科技評論雜誌的一篇文章引起了人們對人工智慧（AI）與人類的親密關係可能會被濫用的擔憂。

文章作者麗莎·伊爾斯利分享了她的觀點，她是Cognea的前首席執行官，該公司曾利用機器結構和深度學習的混合構建了虛擬代理人。

伊爾斯利在Cognea的任期內觀察到，人類越來越依賴於人工智慧，這種依賴不僅限於執行任務方面。人工智慧還為人類提供了柏拉圖式的情感支持。伊爾斯利寫道：「無論虛擬代理人被設計成個人理財顧問、伴侶或健身教練，都會出現這種情況。人們會自願說出他們的秘密、夢想，甚至包括他們愛情生活的細節。」

但這未必是壞事。人工智慧可能比我們目前關注的更有能力——它可以隨時待命，並相應地為我們做出量身定製的修改。伊爾斯利在文章中寫道，最根本的問題是，設計研發這些人工智慧的公司目標並不是用戶的身心健康，而是「增加其流量、消費和用戶對他們的技術的依賴」。

她寫道，人工智慧公司已經開發出高效的程序來實現這一目標。「Cognea作出的每一項改變都是我們想要的」——那麼，如果公司的目標牽涉道德問題，那會發生什麼？伊爾斯利還觀察到，人類與人工智慧的關係會導致惡性循環。如果人類接觸到過分屈從的人工智慧，人類就會傾向於濫用它們，而這種關係會導致他們「更有可能對人類做出同樣的行為」。

人類與AI關係的未來

人工智慧正迅速融入我們的日常生活:我們通過Siri與iPhone互動，人工智慧通過調整廣告來改變我們的網路體驗，而聊天機器人在我們與公司的互動中扮演了相當重要的角色。

我們與人工智慧的日益密切的關係，是被「人格化」技術（將人的特點賦予事物）所推動的。Siri被賦予了一個名字，讓她聽起來更像一個真實的人，而機器人也正在適應你的講話模式，以鼓勵你信任他們，並與他們建立聯繫，從而更多地使用他們。

由於不了解人工智慧的具體編程能力，我們對這一問題的理解還不夠。我們目前對人工智慧的運作過程知之甚少，但仍在繼續創造更大、更快、更複雜版本的人工智慧。這不僅是我們的問題，也是相關公司的問題，因為他們無法準確預測他們所創造的人工智慧的行為。

我們與人工智慧的互動顯然會影響到我們未來的生活，但危險在於人工智慧可以被精心策劃從而以特定的方式影響我們的社會——或者更加可能的是，人工智慧對人類意圖的詮釋將會導致人類進入一個我們並不真正想要的未來。

英文來源：Futurism 編譯：網易見外智能編譯平台 審校：李擎

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！