人工智慧有多少自主權？

人工智慧有能力替我們做決定，整個世界都很興奮。但總有一個揮之不去的問題：誰將成為僕人，誰將成為主人？我們應該從一個完全不同的角度來看待人工智慧嗎？我們真的應該交出控制權，讓人工智慧自己做出決定嗎？

在某種程度上，在某些情況下，我們將不得不放手。沒有決策權的人工智慧根本就不是人工智慧。

GIF/3685K

機器學習有時候必須是免費的

如果每次做出決定時都要等待人工輸入，那麼機器學習的巨大好處是無法獲得的。例如，如果一輛自動駕駛汽車在需要轉彎或減速時，需要向人詢問輸入信號，那麼它根本就不可能發生。這樣一輛車和我們今天所知道的汽車完全一樣。

但有趣的是，大多數都是出於本能。我們甚至都不去想它們，因為它們是固定在我們大腦里的。當我們自己開車，遠離潛在的危險，或者因為前方的情況而放慢速度時，我們就會做出決定。當我們把頭轉向噪音的時候，我們又製造了另一個。

我的信念是，如果我們想讓任務自動化，我們需要授權機器做出類似的決定。我不認為把很多無意識的決定交給人工智慧會有什麼問題。駕駛我們的汽車避開危險與決定我們開車的方向是不同的。我們可以把這條線畫在沙子上這是我們必須做的事情。

幸運的是，我並不是唯一一個認為需要畫線的人。然而，如何以及如何去畫它，還有待討論。

我們在哪裡畫沙子？

斯蒂芬?霍金、埃隆?馬斯克、比爾?蓋茨以及幾乎所有科技界的人都警告說，人工智慧可能會接管世界，並將我們從地球上抹去。穆斯克是未來生命研究所的主要捐助者，該研究所決心保持對人工智慧的控制，並準備為阻止我們交出控制權的立法而鬥爭。立法行動將是一種劃清界限的方法。

一個大問題是，為某一特定任務而設計的機器是否能夠自我感知，並通過互聯網和物聯網對其他機器產生影響。

這是一個合乎邏輯的飛躍，表明汽車或機器人能夠自我意識，從背後侵入系統，並發起一場針對我們的革命。但這個漏洞令許多人工智慧的批評者感到擔憂。如果存在這樣的漏洞，就必須儘早採取立法行動。當我們發現有人製造了這個漏洞時，控制它就太晚了。因此，是否存在這種危險的問題是無法回答的。

另一個關於人工智慧的討論的角度，遠遠超出了我們在這個世界上所處位置的危險。問題是，我們為什麼需要人工智慧，為什麼我們如此熱衷於將控制權交給機器？在這個世界上，我們自己的目的是什麼呢？如果我們把重大決定交給機器，我們還能做什麼呢？

我們是否願意將控制交給AI？

人工智慧最近在法律系統中首次亮相，目前正在進行的工作是創造一個完美的機器人裁判，最終可以做出裁決，而不是由人類法官做出裁決。

另一個建議是，讓一個完美的機器人法官來支持一名人類法官，因為他具有同理心、直覺以及機器無法複製的人性品質。這聽起來像是一個更明智的解決方案，因為人工智慧可以應用法律條文，提供建議的一系列句子，法官可以從中選擇作為一個人。

同樣，產品設計師也可以利用機器學習中毫無疑問的天賦，在創新一種新產品的過程中，在成千上萬種不同的排列組合中穿行。我們總能在鏈條的末端有一個人來運用常識，確保計算機確實能把我們的最大利益放在心上。

外科醫生將被替換為擁有更穩定的手的機器人，能夠有效地在病人身上有效地觀察，並且能夠更快、更快速地完成手術。但他們是否應該有一位合格的外科醫生出席？

這是另一個問題出現的地方。如果死亡率下降，如果人工智慧醫生比人類醫生更安全、更成功，這是完全可能的，那麼給機器人外科醫生一個更大的自主權是合情合理的。

所以，最終，即使是人工智慧的人工智慧也可能會自動實現。

我們必須考慮人性。如果計算機總是正確的，那麼，最終我們將交出控制權。

同樣地，設計師們發現，電腦的效果更好，將會被簡化成橡皮圖章。如果人工智慧法官每次都能做出一個完美的裁決，最終，人類法官會簡單地將自己的裁決提交給法官。

因此，或許我們根本不需要一場終結者式的起義。也許這是一個虛構的類比，將會發生什麼。我們願意將我們的決策權交給一個優秀的計算機智能人才。一個強大的人工智慧可以讓我們的人類決策能力在一代人的時間裡變得無關緊要。在完美的人工智慧環境下長大的孩子很可能不會產生任何想要做出自己決定的衝動。

由於懶惰和人工智慧比人腦具有更多的處理能力，我們可以把世界和每一個重大決定都交給那些從未尋求過權力或控制的計算機。

人工智慧必須用來賦予人類權力

與其將世界的控制權交給計算機，我們難道不應該用人工智慧來強化我們自己的決策嗎？

每當我想到人工智慧應該如何工作時，我就會想到這一點——尤其是在我們繼續在德國打造完整的人工智慧建築平台的時候。

今天的人類總是被分散注意力。我們專註於生活中重要決策的能力受到我們生活中的信息泛濫、智能手機持續的干擾以及比昨天做得更多的壓力的限制。我們需要把我們最平凡的任務交給人工智慧，但一定要確保這是一個有意識的決定。

然而，不幸的是，看起來大多數公司都在朝相反的方向發展。當然，我們可以逆轉人工智慧的發展方向，移除所有的自主權，將人工智慧降至支持角色。但只要商業利益驅使我們實現完全的人工智慧，這種情況就不會發生。為什麼財富50強公司不希望承擔客戶決策的權力，讓人工智慧做出所有的購買決定呢？

如今，公司沒有理由不去開發這樣的人工智慧用例，而且也沒有法律禁止他們這樣做。企業已經創造出了一些產品，它們利用人類天性中不公平的優勢，創造出對大多數人來說極其難以打破的購買習慣。

想想亞馬遜的點吧。相信有一天，客戶會將這一按鈕的控制權交給人工智慧，這並不是一件很遙遠的事情。有了這個，決定了什麼，買了多少。

（英文版來自：thenextweb）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！