谷歌內部視頻暴露公司野心：未來要用數據「操控」人類

【獵雲網（微信號：ilieyun）】5月28日報道（編譯：葉展盛）

由於對用戶的一切了如指掌，谷歌已經建立了一個數十億美元的業務。外媒通過一個谷歌的視頻了解到，這家公司將在未來如何使用這些信息，這野心十足但也讓人感到不安。

這個視頻是由X部門（前Google X）的主管Nick Foster在2016年後期製作的，同時他也是谷歌Near Future實驗室的聯合創始人。這個視頻最初只是在谷歌內部公布，它描述了一個數據搜集的未來，谷歌會促使用戶來推動自己目標的實現，並通過個性化的設備搜集更多數據，甚至通過指導整個人類的行為來解決貧窮和疾病等問題。

一位X部門的發言人告訴外媒：「如果這讓人感到有些困擾，我們能理解，因為它的設計本就如此。這是一個設計團隊在多年前制定的一個思想實驗，它利用一種名為『思辨設計』的技巧來探索一些讓人不適的想法和概念，從而引起人們的討論和爭議。這和現在以及未來的任何產品都沒有關係。」

這個視頻的名字為The Selfish Ledger（意為「自私的分類賬」），長達九分鐘。該影片以拉馬克的表觀遺傳學起頭，該學說主要關於一個生命體在一生中所獲得的習性特徵，並將之遺傳下去。在視頻的旁白中，Foster承認這個學說在基因學方面的可信度也許不高，但卻為用戶數據提供了一個非常有用的隱喻（這個視頻的標題也是在向英國演化理論學者理查德·道金在1976年出版的《自私的基因》致敬）。我們使用自己手機的方式創建了一個「在持續進化的自我代表」，Foster將之稱為「ledger」，也就是分類賬，它假定這些數據側寫能成功被建立，並能對行為作出改變，並從用戶之間進行傳輸。

「以用戶為中心的設計原則已經統治了計算機領域好幾十年的時間，但如果我們換個角度去看待這些事務呢？這些分類賬是否能被賦予特定的意願或目標，而不是簡單地作為歷史參考？我們是否能通過引入更多數據源創建一個更加豐富的分類賬？我們是否能把自己當成信息的暫時攜帶者，而不是擁有者？」

Foster表示，是否能想像，我們設備上使用的、所謂的「分類賬」——包括我們的「行為、決策、偏好、行動和關係」數據——能夠像遺傳信息世世代代相傳那樣，傳輸到其他用戶那裡。

基於分類賬的理念，視頻的中間部分展示了一個概念化的Resolutions by Google系統，在該系統中，谷歌會鼓勵用戶去選擇一個人生目標，並通過他們的手機，在每一個人生十字路口指導他們，這「反映了谷歌作為一家組織的價值」。舉個例子，假如你在用Uber進行共乘時，或者在Safeway購買當地生長的作物時，它會鼓勵你作出更加環境友好型的選擇。

當然，這個概念的前提是，谷歌能夠獲取大量的用戶數據以及他們的決策。這個視頻里並沒有提及這種系統可能會引發的隱私問題或潛在的負面外部影響。分類賬對數據前所未有的需求，也是我們對這種情境最大的擔憂。

Foster構想了一個未來，屆時「目標驅動的分類賬概念更加容易被人們接受」，「建議可以被分類賬本身所修改，而不能被用戶自己修改」。這彷彿就是《黑鏡》的寓意變成了現實，分類賬會主動想辦法填補自身認知的不足，甚至會為用戶選擇性地購買「它認為對用戶有益」的數據搜集產品。在視頻中，分類賬因為不知道用戶的體重，還購買了一個體重秤。甚至該視頻還展現了一個讓人感到不安的科幻式未來，你可以想像一下分類賬已經精明到可以自己提出建議，甚至3D列印出自己的設計。「歡迎回家，Dave，我為你打造了一個秤。」

Foster對分類賬的展望已經遠遠超出了一款工具的自我優化，這個系統將能夠「彌補自身認知的不足，提煉其人類行為模式」——這不是針對某個個體的行為，而是針對整個人類物種。「想像用戶數據具有多代屬性，可能後來出現的新用戶會從『前代』用戶的行為和決策中收益。」Foster解釋道，他構想了一種人類行為數據的挖掘模式，將數據像人類的基因那樣排列起來，從而「提高對決策和未來行為的預測精準性」。

「通過不斷的搜集和比較，這可能獲得對整個物種層面的某個問題的理解，例如抑鬱、健康和貧窮等。」Foster總結道。

Foster的工作就是負責X部門的設計，谷歌的「登月工廠」本身就有一些未來的目標，分類賬的概念也富有科幻小說的色彩——但同時它也和谷歌現有產品的態度完美契合。谷歌照片已經在推測你喜歡的照片、圖片，並根據其人工智慧製作了整個相冊。谷歌地圖和谷歌助手都會根據搜集的位置和行為數據來給出建議。谷歌的這些服務的求知慾以及自信程度也越來越高，甚至Gmail還提供了電子郵件的自動書寫。

如今，有關新技術和人工智慧的道德正在進入公眾的視野，谷歌也經常被抓住忽略了某些道德問題，或者它的產品存在某些副作用。例如它最近在I/O大會上展示的語音呼叫人工智慧Duplex，但就有人認為Duplex可能會有欺騙的行為，這促使谷歌作出承諾，稱自己的人工智慧會在呼叫受信任的服務工作者時，一直會進行自我認證。

The Selfish Ledger將谷歌定位成全世界最困難問題的解決者，它會從每一個用戶那裡搜集過度隱私的個人信息，這同時讓人感到苦惱。但目前也沒有任何證據表明，它是否真的只是谷歌內部一位富有影響力的高管發起的一個思想實驗。但這個視頻也揭示了，這個全世界盈利程度最高的個人數據搜集服務商內部進行了怎樣的思考。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！