亞馬遜正在盯著你
【獵雲網（微信號：ilieyun）】7月4日報道（編譯：清酒）
編者註：本文的作者是Will Oremus。在Facebook和谷歌因隱私問題飽受詬病時，亞馬遜卻在悄然發力，人們可能對它的印象還停留在「萬物商店」，但它已經滲透進千家萬戶，It"s watching u！
當說到亞馬遜，你會想到什麼？是國外版的淘寶？是準時的快遞？是優質的售後？又或是Alexa播放的一首歌、一個電視節目，或者讓它控制家中的電器？
亞馬遜以低價和高效著稱，這也是其在各種調查中佔據美國最有價值或最受歡迎品牌榜首的原因。最近一項研究發現，亞馬遜是美國第二大最受信任的機構，領先谷歌、警察和高等教育系統，僅次於美國軍隊。Facebook因一連串隱私和選舉醜聞而名聲掃地，谷歌則受累於YouTube的激進化與內容審核機制，亞馬遜卻在此時不斷壯大自己。
但亞馬遜「萬物商店」的可靠公眾形象卻掩飾了它已經變成神秘巨獸的真相，也掩蓋了它從線上到線下不斷侵蝕我們隱私的事實。
即便其競爭對手都已紛紛重新評估自身，反思責任，並呼籲出台新的監管規定，亞馬遜仍在對監控設備投下重注，否認應當承擔的責任，並對學術界、媒體、政界人士及其員工提出的擔憂不予理會。
喬治城大學公共利益律所（Georgetown Law』s Institute for Public Representation，IPR）的律師Lindsey Barrett 說：「我們不希望亞馬遜建造圓形監獄。」該律所是19家監督組織組成的團體的法律顧問。
上個月，該律所向FTC（美國聯邦貿易委員會）控訴亞馬遜涉嫌違反保護兒童在線隱私。他們還發現即使父母試圖刪除數據，亞馬遜的Echo Dot兒童版智能音箱還是私自保存了兒童的錄音和個人數據。亞馬遜將問題的一部分歸咎於軟體缺陷，並表示已經修復。
雖然該案的結果仍有待探究，但這個投訴只是冰山一角。
如今，亞馬遜在公共互聯網中佔據著舉足輕重的地位——它利用AI處理許多大公司和機構的數據，包括中央情報局；它跟蹤用戶的購物習慣，為目標廣告建立詳細的檔案；它將基於雲端，且由AI支持的音箱和屏幕帶入千家萬戶；它收購的一家公司生產的Wi-Fi路由器可以組成網狀網訪問我們的私有互聯網流量。
此外，通過子公司Ring，亞馬遜將攝像頭安放在數百萬人的門鈴上，還邀請他們跟鄰居、警察通過一個預防犯罪的社區共享視頻。亞馬遜還向警方和私企出售人臉識別系統。
未來，亞馬遜可能會更加無處不在。甚至，亞馬遜早在2015年就申請到了所謂「監控即服務」的專利。
而亞馬遜的領導常給公眾灌迷魂湯，讓他們相信——隱私問題被誇大了。不僅如此，他們更是忽視內部異議，將亞馬遜濫用技術對可能性歸結為別人的問題。
亞馬遜雲服務的負責人Andy Jassy稱：「技術或許存在濫用的可能性，但這並不意味著我們就應該禁止並譴責它。」他認為，禁用人臉識別（它或許是有效的監管工具，但卻存在歧視有色人種的可能性）就好比禁用電子郵件或刀，其影響也是有好有壞的。
確實，亞馬遜的所有產品都存在益處，但當你將這些都拼湊在一起，在雲端裝上無數「眼睛」和「耳朵」，那就足以產生奧威爾式的影響，相比之下，Facebook和谷歌（這兩家公司因隱私問題飽受詬病）似乎也相形見絀了。
客廳里的耳朵
先說說Alexa系列的設備，如Amazon Echo、Echo Dot以及Echo Show等，這些已經成為智能家居的主要產品。
超過1億的用戶大開「方便之門」，親手將亞馬遜的攝像頭和麥克風請進了自家廚房、客廳或卧室，相信亞馬遜會在此過程中保護好他們的隱私。
亞馬遜辯稱，Echo只有在聽到喚醒詞時才會開始錄音，但這一系統離萬無一失還差得遠——幾乎每位用戶都曾因設備「聽」錯喚醒詞忽然啟動，而受到驚嚇。Alexa也因此會錯誤收集對話片段，並意外將這些記錄發給陌生人。但亞馬遜對此並不那麼在意。
此外，從Echo上刪除錄音文件要比在Google Home或Apple HomePod上更難，對於給Echo Show等設備的攝像頭上配置物理快門以防止意外錄製的計劃，亞馬遜也是一拖再拖。
對於一家引領人機關係革命的公司，亞馬遜對隱私的態度甚至顯得不屑一顧。去年，Alexa Engine Software的副總裁Al Lindsay在接受媒體採訪時，被要求指出一項他認為是有效的，且跟亞馬遜相關的數據隱私問題，或者說出一項他的團隊正在進行的與隱私有關的挑戰。他說他一個都想不出來。
反倒是，亞馬遜以外的監管者發現了問題。今年四月，彭博社報道稱亞馬遜在全球僱傭數以千計的承包商來審核Alexa用戶的錄音。
亞馬遜辯稱其目的不是監聽用戶，而是幫助改進軟體。這是人工智慧培訓公司的常見做法，但亞馬遜並沒有向用戶明確披露其系統的機制。蘋果的Siri和谷歌助手也有人工審核員，但他們採取了措施對用戶的錄音匿名化，而Alexa的錄音則與每個用戶的帳號、設備序列號和名字相關聯。
還有指控稱亞馬遜的兒童版Echo Dot違反了聯邦兒童在線隱私保護法，並在簽署同意書方面耍了小手段。IPR的Barrett說，她很難相信這麼大的一家公司會在一款明確面向兒童並向兒童銷售的設備上犯下如此直接的侵犯隱私行為。
對於上述事件，該公司聲明稱，它有嚴格的協議來保護客戶的隱私和安全，並指出客戶可以隨時在Alexa應用程序中或通過訪問在線Alexa隱私中心來查看和刪除錄音。
亞馬遜希望將Alexa設備部署到汽車酒店房間、教室，甚至兒童醫院，卻並未強調其隱私和安全性，簡直是細思極恐。
不過，亞馬遜在上月推出了一系列新的Alexa隱私功能，你可以要求「Alexa，刪除我今天說的一切。」但事實證明，這一功能著實雞肋，Alexa不會在聽到指令時刪除錄音，而是引導用戶打開Alexa App，然後經過一長串菜單選項導航。並且你只能刪除一天的記錄，要想刪除所有記錄則需要經過8個步驟。
至今，亞馬遜都沒有像谷歌那樣提供自動刪除錄音的選項。
迄今為止，亞馬遜還沒有在Alexa上推出語音廣告，這可能有助於強化該公司的電商形象，而不是讓你成為商品。但這並不意味著你的Echo不會收集數據並從中獲利。事實上，它正在跟蹤你的購買記錄和音樂選擇以用於產品推薦了。
雖然它沒有像谷歌或Facebook那樣受到審查，但亞馬遜的數字廣告業務正在悄然蓬勃發展：它現在是僅次於雙頭壟斷的第三大經濟體。根據最近預計，亞馬遜2019年預計將拿下美國1300億美元市場近10％的份額。
街上的眼睛
亞馬遜在2018年初以10億美元收購的「智能門鈴」創企Ring。其他互聯網巨頭大多隻窺探用戶的在線行為，而Ring讓亞馬遜和你一起，監控現實世界中其他人的行為。它的無線連接設備安裝在家庭和企業的門外，可以持續監視30英尺半徑範圍的動態，並在檢測到運動時捕捉視頻。用戶可以實時觀看實時動態，付費後還可以存儲和觀看錄製的內容。
亞馬遜現在是門鈴攝像頭市場的主導者，一位分析師預測該市場到2023年的規模將達到100億美元。
不滿足於讓用戶監視他們自己的前院，Ring還通過一個叫做Neighbors的應用程序把攝像頭變成了半公共的搜索網路。Neighbors允許Ring的用戶上傳、分享和評論彼此的監控錄像，用戶還可以向警方授權觀看視頻。亞馬遜在一份聲明中表示：「通過鼓勵社區直接與當地警方合作處理活躍案件，有助於保護社區安全。」
這一功能可讓部分執法機構樂壞了。CNET的一份報告指出，從休斯敦到印第安納州哈蒙德的警察部門都在跟亞馬遜合作，向市民提供打折的Ring設備，同時鼓勵他們在Neighbors上分享監控視頻。有些州的「整個鎮區已獲攝像頭的全覆蓋」，警方几乎免費實現了全市安全攝像頭的全覆蓋。
雖然，亞馬遜沒有規定用戶必須與警方分享視頻，但它的執法門戶網站讓執法人員很容易向任何特定用戶索要視頻——許多人可能會覺得難以拒絕。即便用戶在應用程序中保持匿名，但他們的大概位置還是顯而易見。
對此，Ring試圖撇清關係，指出要求客戶與警方分享視頻以換取設備折扣的計劃自己是不支持的。
你可能會認為，在網路隱私擔憂加劇之際，科技巨頭對涉足線下監視的想法應該給更加謹慎才是。就亞馬遜而言，你錯了。
Ring創始人Jamie Siminoff曾向員工發表過激言論，並向「人渣犯罪分子（declared war on 「dirtbag criminals）」宣戰。並且，至少在亞馬遜收購之前，該公司自身的安全性有時顯得鬆懈：人們多次發現Ring以明文形式存儲客戶的家庭無線密碼，並向海外伺服器發送20毫秒的音頻數據包。
根據2018年的一份報告，從2016年開始，Ring還允許烏克蘭的研發人員訪問用戶的個人視頻記錄進行分析。亞馬遜表示，這種做法僅限於在Neighbors應用程序上公開分享的視頻，但拒絕透露該政策何時生效。
Macomb Community College的教授Chris Gilliard說：「亞馬遜實際上是在出售恐懼。他們試圖讓人們為這樣的想法買單——一個更受監管的社會是更安全的社會。但這取決於你是不是被監視的人。Ring和Neighbors實際上會讓社會對有色人種更具偏見，他們在具有鄰里監督要素的社交網路中被認定為 『可疑』的可能性更高。在過去，如果居民看到自認為可疑的人時可能會告訴鄰居或報警，但他們可能不會廣而告之到整個社區。但現在是了。」
雲端的大腦
儘管大多數人仍然認為亞馬遜就是一家在線零售商，但其大部分利潤現在來自亞馬遜網路服務，據估計，其雲伺服器為近一半的互聯網提供支持。對於較小的網站，AWS主要充當基礎設施提供商。但是對於那些龐大的機構和公司來說，AWS也挖掘和分析數據，解碼文本和圖像，做出預測和建議。
這些客戶包括主要的執法和情報機構，如國土安全部、國防部和中央情報局。亞馬遜在2017年成立了AWS的一個特別部門來處理政府機密情報。AWS的客戶還包括Palantir，這是一家由彼得·泰爾共同創立的矽谷大數據公司，為美國移民和海關執法局提供服務。
在谷歌迫於員工壓力退出百億美元雲服務合同後，AWS正與微軟Azure展開激烈角逐，試圖將五角大樓帶入雲端。
AWS最有爭議的服務是Rekognition，這是一個使用機器學習來分析圖像和視頻片段的平台。Rekognition還具備將視頻記錄中的人臉與資料庫中的人臉集合進行匹配的能力，以及能夠識別人臉特徵和表情的人臉分析技術。
美國公民自由聯盟（ACLU）2018年的一份報告聚焦了亞馬遜向執法機構推廣其面部識別功能，並與佛羅里達州奧蘭多和俄勒岡州華盛頓縣的警方建立了合作關係。
在韓國首爾舉行的一次開發者大會上，亞馬遜的Ranju Das解釋說奧蘭多的警察擁有「遍布整個城市的攝像頭 」，這些攝像頭將視頻流傳輸給亞馬遜進行實時分析。它可以將監控視頻中的人臉與資料庫中的照片進行比較，以確定某些人的下落。
人臉識別應用的一個致命問題就是不準確，特別是在識別有色人種時。在2018年ACLU的一項測試中，Rekognition錯誤地將28名國會議員的匹配到犯罪嫌疑人的照片上，在錯誤匹配中，有色人種的國會議員佔比較高。亞馬遜認為這項研究在幾個方面具有誤導性，因為它對匹配使用了低於AWS推薦的置信度閾值，並且使用了舊版的Rekognition軟體。
一些員工和股東認為亞馬遜為Palantir和ICE等開發人工智慧工具和面部識別的想法並不合適。一位匿名的亞馬遜員工表示，約有450名員工聯名簽署了一封致CEO貝佐斯的信，呼籲該公司放棄跟Palantir合作並停止向警方提供Rekognition的服務。
該員工寫道：「像我們這樣的公司不應該從事便利獨裁監控的業務」。在隨後的一次採訪中，該員工表示亞馬遜領導層對此的回應是「無限地沉默」。
這並不奇怪，因為AWS副總裁Teresa Carlson在被問到亞馬遜是否會給自己所承擔的防務工作劃任何的紅線或制訂指導方針時，她的答案很明確：「我們不劃任何的紅線。」
在2019年2月的一篇博客文章里，亞馬遜表示，它將對人臉識別進行某種形式的立法以促進透明性和尊重公民權利等目標持開放態度。此前，微軟在2018年更直接地呼籲監管這項技術。但是，當微軟提出嚴格的道德理由來控制它時，亞馬遜卻一直在為其辯護，「在我們提供Amazon Rekognition兩年多的時間裡，我們尚未收到一份關於執法濫用的報告，」該公司在博客文章中說。
監控即服務
專利申請不能告訴你一家公司實際上會做什麼。通常，他們只是儘可能多地申請專利，以防有朝一日能將其商業化。但儘管如此，我們從專利中還是能看出公司對未來幾年的競爭環境的看法。如果說亞馬遜的專利文件會透露某些信息的話，那就是公司將監控能力的擴展視為其未來的重要組成部分。亞馬遜將這一想法叫做「監控即服務」。
智能音箱、AI語音助手、門鈴攝像頭以及人臉識別都有其優點，它們為我們提供了便利，讓我們安心，並有可能解決可能一些否則無法解決的犯罪問題。但是如果把這些湊到一起，由一家科技巨獸控制所有的數據，並與警方和情報機構密切合作，你可能就會生活在一個空前強大的監控之下。
假設沒有人阻止亞馬遜建立這個網路，問題就變成了我們是否能信任該公司在設計其產品和保護他們收集的大量數據時能夠負起責任、深思熟慮、小心謹慎——以及我們是否能信任所有使用亞馬遜技術的實體對我們的數據負責。
穹頂之下
與道歉成癮的Facebook，和以保護隱私為賣點的蘋果相比，亞馬遜迄今在監控方面並沒有引起巨大的關注。
但你要知道，在微軟拒絕向警方出售人臉識別技術，而谷歌根本沒有這一銷售業務的情況下，亞馬遜卻在向全國各地的警察部門進行兜售。
亞馬遜CTO Werner Vogels在接受BBC採訪時解釋說，確保負責任地使用其人臉識別系統並不是亞馬遜要承擔的角色。「這不是我要做的決定，這項技術在很多地方都得到了很好的應用。哪一項技術在什麼情況下可以用得由社會來決定。」
在2018年10月，貝佐斯將公司的軍事合同視為愛國義務的一部分。他把公司開發高科技監控工具與書的發明進行比較，說書曾被用於行善，也曾被用於作惡。他說：「新技術裹足不前是我們最不想做的事情。」
人們可能希望亞馬遜最不想做的是開發會造成傷害的新技術，但顯然它的高管更加關注的是不要妨礙創新。
幾十年來，科技公司的戰略一直秉承著這樣的觀點：創新的步伐是不可阻擋的，自己創造的新技術不該由公司來引導怎麼去用。
不過似乎亞馬遜對這種看法不敢苟同。
一直在研究Ring和Neighbors如何影響少數族裔的研究員Gilliard表示，他懷疑亞馬遜對其產品影響這種無所謂（不管是有意還是無意）的態度可能難以為繼。他表示：「亞馬遜只是還沒有遭遇他們的劍橋分析時刻。」
在沒有出現亞馬遜員工和管理層良心發現，或是爆出驚天醜聞的轉折點之前，對亞馬遜脖子伸得太長最好的防禦手段也許是監管。
5月，舊金山成為美國第一個禁止人臉識別的大城市。該技術的捍衛者發現這一行動不成熟且過於激進。但亞馬遜的一位匿名員工警告說，如果我們不儘快採取行動的話，「所造成的傷害將很難恢復」。警察部門一旦對Neighbors形成依賴讓他們放棄使用簡直是難以想像。雖然人們可能會希望亞馬遜決定不給門鈴、汽車或無人機提供人臉識別能力，但沒有任何跡象表明它的領導人認為這裡面有問題。
亞馬遜之前曾克服了社會信任的障礙。1995年它就推出了在線書店，那時候距離互聯網歷史上首次實現在線購物僅僅一年。亞馬遜和eBay一起說服了公眾在網上使用信用卡並不像懷疑者所想的那樣瘋狂。
儘管該公司在看似不協調的方向上擴張，但它仍嚴格專註於簡化過去繁瑣的流程，從快速廉價的交付到通過語音控制智能設備。
Rekognition可以自動將一個犯罪嫌疑人的臉與資料庫中數十萬張照片進行比較，或者當你的街道上發生可疑事件時，Ring可以第一時間提醒鄰居和警察。 但值得一問的是，在我們讓監控變得像一鍵式亞馬遜購物一樣簡單和無處不在之前，讓社會上的某些事情保持繁瑣會不會是更好的選擇。
TAG:獵雲網 |