「自私的賬本」：Google的大數據和野心

# 本文由 pessoa 投遞譯稿。

The verge 這個網站得到了一條谷歌內部 Google X 部門設計負責人於2016年製作的一條9分鐘長的視頻。視頻的標題是」自私的賬本「，其中提出了一個數據收集的概念」賬本(ledger)"。通過收集越來越全面的數據，來干擾，或者說引導人類行為， 建立並不斷改進人類行為模型，引導人類個體實現其目標，甚至引導整個人類群體去解決一些諸如饑荒、貧困之類的世界性難題。這是一片純介紹性的文章，the verge 表達了擔憂和提出了一些批評。對了，文章裡面還提到說，谷歌的相關人員對該網站做出解釋說，賬本只是一個用於激發討論的思維實驗，和現在或未來的任何產品都沒有任何關係。

正文中超鏈接均來自原文，關於拉馬克表觀遺傳學的注釋由譯者添加，其中超鏈接指向 Wikipedia。

原帖地址：https://www.theverge.com/2018/5/17/17344250/google-x-selfish-ledger-video-data-privacy

通過了解它用戶的一切信息，谷歌已經建立起了數十億美元的業務。現在，一段由Google內部製作並被 The Verge 獲得的視頻，為我們展現了這個公司中某些人設想未來如何使用這些數據的驚人野心和令人不安的狀態。 Nick Foster 在16年年底製作了這段視頻，他是 Google X 的設計負責人和 Near Future Laboratory 的聯合創始人。這段在谷歌內部分享的視頻，描繪了全面數據收集的未來——谷歌促進用戶和他們自己的目標保持一致，定製列印個性化設備以收集更多數據，甚至引導所有人的行為去解決例如貧窮和疾病等全球性問題。 在對此視頻發表評論時，一位 Google X 的發言人的提供了以下聲明： 「我們理解這是令人不安的——它被設計成這樣。這是多年前設計團隊使用一種被稱為「推測設計(speculative design)」的技術進行的一次思想實驗，去探索那些令人不適的想法和概念，以此來激發討論和辯論。它和谷歌目前或未來的任何產品都沒有關係。

標題為「自私的賬本」的9分鐘影片以拉馬克表觀遺傳學[^1]的歷史開始，廣泛關注有機體一生中後天獲得性性狀的傳遞。影片旁白中，Foster 承認該理論可能在遺傳學領域受到懷疑，但 Foster 說它提供了一個用戶數據的有用比喻。(視頻標題是對 Richard Dawkins 於1976年出版的《自私的基因》的致敬。)我們使用自己手機的方式創造了「一個不斷演化的『我是誰』的代表」，Foster 稱其為「賬本(ledger)」，假定這些數據檔案可以被建立起來，用於微調行為，並且從一個用戶轉移到另一個用戶：

以用戶為中心的設計原則已經主導了計算機世界幾十年，但如果我們以稍微不同的方式來看待呢？若是這種賬本可以被賦予意志或目的，而不僅是作為歷史參考呢？若是我們專註於通過引入更多的信息源來創建更豐富的賬本呢？若是我們不把自己看作這些信息的所有者，而是保管者、臨時保存者或管理者呢？

Foster 說，我們設備使用的所謂賬本——我們「行動、決定、偏好、運動和關係」方面的數據——是某種可以被想像出傳遞給其他用戶的東西，很像在世代之間傳遞的遺傳信息。

基於賬本這個想法，視頻的中間部分展示了骨骼系統的概念性解決方案。其中谷歌鼓勵用戶選擇一個人生目標，然後在用戶和手機的每一次交互中將他們向其目標引導。一些「反映谷歌作為一個組織的價值」的例子，包括當你通過 Uber 叫車時引導你選擇更環保的選項，或是在 Safeway 中促使你購買本地種植出產的產品。

當然，這個概念的前提是谷歌能夠獲得大量的用戶數據和決策。視頻中從未提及隱私問題或負面的外部因素。賬本對越來越多的數據的需求可能是展示中最令人不安的一方面。 Foster 設想了一個未來，「目標驅動的賬本的概念變得更令人舒適」，以及「建議可能不是由用戶轉換，而是賬本本身」。隨著賬本積極地填補其知識的空缺，甚至挑選出它認為可能會吸引用戶的數據收集產品來購買，劇集「黑鏡」的基調就傳入現實了。視頻中給出的例子是浴室秤——因為賬本尚未獲得它用戶的體重信息。之後，視頻進一步轉變成引發憂慮的科幻作品，想像賬本可能精明到計劃並列印它自己的設計。(歡迎回家，Dave。我為你造了一個秤。) Foster 對賬本的構想超越了一個用於自我提升的工具。這套系統能「填補其知識空白並改進其人類行為模型」——不僅是你或我的特定行為，而是整個人類物種。Foster 解釋說，「通過將用戶數據視為多代之間的，這樣就有可能讓新用戶從前一代的行為和決策中受益。」Foster 想像挖掘人類行為模式的資料庫，像對人類基因組那樣對其「測序」，並「對決策和未來行為做出越來越精確的預測」。

「隨著收集和比較的周期延長」Foster 總結說，「對諸如抑鬱症、健康和貧窮等複雜問題就有可能發展出物種層面的理解。」

當然，Foster 的工作是領導 Google X 的設計，Google X 是谷歌的有其固有未來目標的「登月工廠(moonshot factory)」，並且賬本這個概念和科幻小說毗鄰——但它和谷歌現有產品傳達出的態度幾乎完全一致。Google Photos 已經假定它知道你會認為什麼是你生活中的亮點，基於它的 AI 詮釋整理出整個影集並向用戶建議。Google Maps 和 Google Assistant 都會基於它們已有的關於你日常位置和習慣的信息提出建議。谷歌方面其所有產品都一直趨向於更大的好奇心和更多的自信。甚至 Gmail 都能自動完成電子郵件的內容。

正當新技術和 AI 的道德規範在進入更廣泛的公共討論，谷歌還是出乎意料地被潛在的道德影響和產品的負面因素所困擾，比如最近它在 I/O 大會上演示的 Duplex voice-calling AI。對 Duplex 騙過人類的潛在可能性的強烈抗議，促使谷歌承諾：在致電不知情的服務人員時，它的 AI 永遠會表明身份。

「自私的賬本」將谷歌定位為世界上最棘手的問題的解決者，這得益於它與來自所有用戶的個人信息的可悲的親密程度，和引導全人類的行為的輕易程度。沒有任何跡象表明這不止是谷歌內部一位有影響力的高管發起的一個思維練習。但是，針對已經是世界上最高產的個人數據收集者的公司，關於這個公司內部正在進行的交流，它確實提供了一些的富有啟發性的信息。

[注1]: 拉馬克主義：也稱做拉馬克學說，或是拉馬克式演化。(wikipedia) 其理論的基礎是「獲得性遺傳」(Inheritance of acquired traits)和「用進廢退說」(use and disuse)，拉馬克認為這既是生物產生變異的原因，又是適應環境的過程。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！