AI 手機的光明與黑暗

原文出處|techcrunch

原文作者|Natasha Lomas

編譯整理|AI商業周刊

Gartner 分析師本周發布了一份 10 強列表，指出了智能手機上 AI 功能的「高影響力」用途，並建議這將使設備供應商能夠通過「更高級」的用戶體驗為客戶提供「更大價值」。

報告預測，到 2022 年，全球 80% 的智能手機將具備人工智慧功能，而 2017 年僅為 10%。由於數據在本地處理和存儲，更多的設備上 AI 可以帶來更好的數據保護和更好的電池性能。

本文列出了 AI 在智能手機的 10 大應用和價值，同時也分析了相應的一些潛在的缺陷。

1

設備上的「數字我」

「智能手機將是用戶的延伸，能夠識別他們並預測他們的下一步行動。他們會明白你是誰，你想要什麼，你要怎麼做，並在你的權利允許下執行任務。 」

Gartner 的原理研究分析師 AngieWang 說：「你的智能手機將全天跟蹤你，為你學習、計劃和解決問題。」。「它將利用其感測器、攝像機和數據自動完成這些任務。例如，在未來物聯網連接的家庭，它可以命令真空吸塵器在房子空的時候打掃，或者在你到達前 20 分鐘打開電飯鍋。"

你好，跟蹤即服務。這個「數字我」還會甜言蜜語地說，它是我的「頭號粉絲」，因為它遍佈於我的每一個動作，以形成一個雙重的數字身體，使我的自由意志在其演算法黑盒子里…

或者只是因為我是一個人而不是一個數字回形針（不，我他媽的沒有寫一封信），所以在任何時候試圖準確地預測我想要的是什麼，這真的會很糟糕嗎？

哦，當人工智慧的選擇不僅不符合我的喜好，而且更糟糕的時候，誰該受責備呢？比方說，當孩子們不在學校的時候，人工智慧派機器人吸塵器到螞蟻農場去了……人工智慧還會向他們解釋寵物死亡的原因嗎？或者，如果它打開了我的空電飯鍋（在我忘記加電之後）——充其量是毫無意義地消耗能量，最糟糕的是狂熱地燒毀房子。

我們被告知，人工智慧助理將在很長一段時間內真正地了解並幫助我們。但是，除非你想做一些簡單的事情，比如演奏一些音樂，或者一些狹窄的事情，比如找一首新的類似的音樂來聽，或者一些基本的事情，比如從互聯網上訂購一個主食，他們仍然比學者更白痴。

2

用戶認證

基於密碼的簡單身份驗證越來越複雜，效率越來越低，導致安全性差、用戶體驗差和成本高。安全技術與機器學習、生物測定和用戶行為相結合將提高可用性和自助服務能力。例如，智能手機可以捕捉和學慣用戶的行為，例如行走、滑動、向手機施加壓力、滾動和鍵入時的模式，而不需要密碼或主動身份驗證。

更多的「跟蹤即服務」。沒有完全的隱私「投降」就沒有安全？但是，如果我驚慌失措，表現得不像「正常」的話，我會不會被鎖在自己的設備之外——比如說，因為我不在的時候，人工智慧打開了電飯鍋，我回到家發現廚房著火了。

我是否無法阻止我的設備碰巧在我手中而被解鎖——儘管我可能實際上希望它在任何特定的時刻保持鎖定，因為設備是個人的，而且情況並不總是可以預測的。

如果我想與家人共享對移動設備的訪問許可權怎麼辦？他們是否還必須在全視數字眼前脫光衣服才能獲得訪問許可權？或者，這種人工智慧增強的多層生物測定系統最終會使人們很難在親人之間共享設備嗎？

就像蘋果從指紋生物測定(允許註冊多個指紋)轉變為面部生物測定認證系統的情況一樣，iPhone X(不支持註冊多個面部)上的指紋生物測定認證系統？我們是不是應該把設備共享性的逐漸改善歸結為「進步的代價」的另一個缺口？

3

情感識別

情感感知系統和情感計算允許智能手機檢測、分析、處理和響應人們的情感狀態和情緒。虛擬個人助理和其他基於AI的會話系統技術的激增推動了為更好的上下文和增強的服務體驗添加情感智能的需求。例如，汽車製造商可以使用智能手機的前置攝像頭來了解駕駛員的身體狀況或測量疲勞程度，以提高安全性。

如果不考慮廣告商在獲得這種超敏感情緒數據的情況下能做些什麼，就不可能對情緒感測系統進行誠實的討論。在這個話題上，Facebook給了我們一個明確的方向——去年泄露的內部文件表明，這家社交媒體巨頭正在吹噓自己有能力壓縮使用數據，以確定青少年不安全感是其廣告銷售活動的賣點。

因此，雖然感知情感環境可能暗示智能手機用戶可以接受和享受某些實用的功能，但它也有潛在的高利用率，而且很容易感覺到可怕的入侵。比如說打開一扇大門，一個智能手機知道什麼時候用廣告來滿足他們，因為他們情緒低落。

如果手機AI意味著本地處理的情緒感測系統能夠提供保證，它們不會泄露情緒數據，那麼可能更少引起關注。但是，通過將情緒跟蹤功能放入智能手機UI來實現正常化，肯定會推動其他地方推廣類似的「增強」服務，然後將取決於各個應用程序開發人員(以及他們對隱私和安全的態度)來決定如何使用情緒。

至於汽車，難道我們還被告知人工智慧將不再需要人類駕駛嗎？為什麼我們需要人工智慧看門狗來監控我們在車內的情緒狀態(這在那時就像飛機一樣只是小睡和娛樂艙)。儘管政府機構和企業肯定會因為各種原因而喜歡動態訪問我們的情緒數據，一個主要的以消費者為中心的情感感知系統的安全論證似乎難以令人信服。

4

自然語言理解

在智能手機上進行持續培訓和深入學習將提高語音識別的準確性，同時更好地了解用戶的具體意圖。例如，當用戶說「天氣寒冷」時，根據上下文，他或她的真實意圖可能是「請在線訂購夾克」或「請打開暖氣」。「舉例來說，自然語言理解可以用作智能手機出國旅行時的實時語音翻譯。

雖然我們都可以夢想擁有我們自己的寶貝——即使是在這個概念所暗示的聖經寓言中對人類狂妄自大的警告下——但這將是一個非常令人印象深刻的人工智慧助手，在他們主人漫不經心地說了一句「天氣寒冷」之後，AI助手可以自動地選擇購買一件完美的夾克。

我的意思是，沒有人會介意一件禮物驚喜外套。但是，很明顯，人工智慧與你的信用卡有著千絲萬縷的聯繫，這意味著你要為那件在你的氣候觀測數小時內到達的羽絨服付出代價，人工智慧在演算法上已經確定了這件夾克足夠結實，可以抵禦一些「寒冷」，同時也有數據顯示，你以前購買的外套會減少它的款式選擇。但如果你還是不喜歡它的樣子，那就太糟糕了。

針對這位完美的AI驅動的消費個人助理，該技術將提供多少實際效用存在極大懷疑，也就是說，除非你是那種希望每年重新訂購同一品牌夾克的人，而且發現在網上手動尋找新外套並點擊「購買」按鈕是極其不方便的。或者，如果你不得不直接要求一個聯網的機器人助手「請把暖氣打開」，而不是讓一個機器人助手24 /7監視你，這樣當它聽到你談論寒冷的天氣時，它就可以自主地申請計算機構選擇把暖氣打開——即使你實際上只是在談論天氣，而不是秘密地要求房子變得神奇地溫暖。也許，當你的人工智慧在附近時(即在任何地方，所有的時間)，你必須對你大聲說出的事情更加小心。

人類相互理解本身就有足夠的困難；期望我們的機器在這方面比我們自己做得更好似乎是異想天開的——除非你認為這些數據受限、不完善的系統的廠商能通過重新構造和減少我們的行為選擇來使我們的生活更可預測(從而更容易系統化)，從而修補AI的局限性和理解缺陷。人工智慧增強的生活更普通，更少生活。

5

增強現實與人工智慧視覺

隨著iOS11的發布，蘋果公司推出了ARKit功能，為開發人員提供了新的工具，使嚮應用程序添加AR變得更加容易。同樣，Google宣布了其ARCore AR Android開發工具，並計劃在明年年底之前在大約1億台Android設備上啟用AR。Google預計，明年幾乎所有新的Android手機都將開箱即用。AR如何使用的一個例子是在幫助收集用戶數據和檢測諸如皮膚癌或胰腺癌等疾病的應用程序中。

雖然大多數AR軟體不可避免地會比這裡引用的癌症檢測示例更無聊，但沒有人會否認「可能會阻止嚴重疾病」。儘管如此，一個為醫療診斷目的而收集個人數據的系統會放大有關智能手機廠商如何安全地存儲、管理和維護敏感健康數據的問題。

蘋果在健康數據方面一直積極主動，但與谷歌不同，它的商業模式並不依賴於對用戶進行分析來銷售有針對性的廣告，因此存在商業利益競爭博弈。

事實上，無論設備上的AI如何，用戶的健康數據似乎都不可避免地會被從本地設備中取出，以供第三方診斷軟體處理(該軟體希望這些數據有助於改進其自身的AI模型)，因此數據保護考慮也相應增加。

與此同時，功能強大的人工智慧軟體可能會突然診斷出非常嚴重的疾病，這也引發了更廣泛的問題，即一個應用程序如何負責和委婉地告知它認為自己有重大健康問題的人。當顧問是機器人時，「不要傷害」看起來要複雜得多。

6

設備管理

機器學習將提高設備性能和待機時間。例如，使用許多感測器，智能手機可以更好地理解和了解用戶的行為，例如何時使用哪個應用程序。智能手機將能夠保持經常使用的應用程序在後台運行以快速重新啟動，或者關閉未使用的應用程序以節省內存和電池。

另一個AI承諾是基於無處不在的監視和減少的用戶代理——如果我真的想要保持一個我通常直接關閉的應用程序打開，或者反之亦然；AI模型不能總是完美地預測動態使用。最近有消息稱，iOS將降低舊iPhones的性能，以此作為試圖從舊電池中獲得更好性能的一種技術。在此之後，針對蘋果的批評應該是一個警告信號，消費者可能會以意想不到的方式對製造實體對其設備失去控制的感覺做出反應。

7

個人特徵分析

智能手機能夠為行為和個人特徵分析收集數據。用戶可以根據正在執行的活動及其所處的環境(例如，家庭、車輛、辦公室或休閑活動)動態地獲得保護和幫助。保險公司等服務提供商現在可以將重點放在用戶而不是資產上。例如，他們將能夠根據駕駛行為調整汽車保險費率。

基於無處不在的行為分析，在這種情況下，由智能手機感測器數據(位置、速度、移動等)提供動力的保險費，可以通過最終懲罰設備用戶的方式進行調整。

如果一個人的電話表明他們經常剎車很厲害。或者在某些區域中有規律地超過速度限制。難道人工智慧不應該在方向盤後面取代司機嗎？一輛自動駕駛汽車會要求它的騎手有駕駛保險嗎？或者說，傳統的汽車保險不是免費嗎？那麼，消費者從普遍的個人特徵中得到什麼好處呢？

與此同時，歧視性定價是特徵分析的另一個明顯風險。智能手機還可以用於其他什麼目的來對其所有者進行行為分析？花在敲擊辦公室電腦按鍵上的時間？在電視機前閒蕩幾個小時？由於智能手機無處不在(也就是「不可穿戴」)，所以幾乎所有日常事物的量化都可能成為可能，但這是否真的是可取的呢？它難道不能通過讓「用戶」(即人們)感覺到他們僅僅是根據他們的生活方式而被微觀地和持續地判斷來引起不適、壓力和消極情緒嗎？

當你審視中國給每個公民一個「性格評分」的計劃，並考慮到由我們口袋裡裝有感測器的設備提供動力的國家級控制基礎設施可能產生的各種預期(和意想不到的)後果時，普遍剖析的風險顯得更加瘋狂地反烏托邦。

8

內容審查/檢測

可以自動檢測受限內容。可以標記不良圖像、視頻或文本，並且可以啟用各種通知警報。計算機識別軟體可以檢測違反任何法律或策略的任何內容。例如，在高安全性設施中拍照或在公司支付的智能手機上存儲高度機密的數據會通知IT部門。

舉報用戶違反公司IT政策的個人智能手機聽起來像是科幻小說中的反烏托邦。同樣，AI支持的內容審查。有一系列豐富多樣(而且不斷擴展)的AI未能正確識別或完全錯誤分類圖像(包括被故意摻假的圖形所愚弄)的例子，以及長期以來科技公司濫用自己的政策從視圖中去除(或以其他方式)某些內容和類別(包括真正的標誌性和真正的自然的東西)的歷史。

因此，將對UI級別上我們可以看到和不能看到(或做)的事情的控制交給最終受商業實體控制的機器機構似乎是不明智的，它意味著用戶和連接設備之間的能量動態的轉移。

9

個人攝影

個人攝影包括能夠根據用戶的個人審美偏好自動生成美化照片的智能手機。例如，東西方有不同的審美偏好——大多數中國人喜歡蒼白的膚色，而西方的消費者更喜歡古銅色的膚色。

當涉及種族攻擊性的「美化」過濾器時，人工智慧已經有了不完整的歷史。因此，任何一種膚色的自動調整似乎都同樣不明智。縮小範圍，這種主觀自動化也是可怕的縮小——通過侵蝕用戶的機構來發現不同的視角和美學，將用戶更牢固地固定在人工智慧產生的過濾氣泡內。如果人眼在演算法上被不經意地渲染為色盲，那麼「眼觀者眼中的美」會發生什麼呢？

10

音頻分析

智能手機的麥克風能夠持續收聽真實世界的聲音。設備上的AI功能能夠告訴這些聲音，並指示用戶或觸發事件。例如，智能手機聽到用戶打鼾，然後觸發用戶的腕帶以鼓勵睡眠位置的改變。

如果一個智能手機麥克風不斷地聽著你卧室、浴室、客廳、廚房、汽車、工作場所、車庫、酒店房間等的聲音，還能辨別和推斷你和你的生活，你真的想要一個外部商業機構來決定如何最好地將你的存在系統化到一個如此親密的程度，以至於它有能力擾亂你的睡眠嗎？

這裡提出的「問題」(打鼾)和侵入性的「修復」（竊聽加上產生衝擊的可穿戴設備）之間的差異非常明顯地強調了人工智慧中缺乏「自動化」。相反，我們目前能夠建立的人工智慧系統需要接近極權主義水平的數據和/或對數據的訪問，而消費者的主張實際上只是提供狹隘的、微不足道的或附帶的效用。

這種差異並不妨礙大數據挖掘業務，因為它們的任務是收集大量數據集，以便在幕後推動關鍵業務的人工智慧工作。但是對於被要求睡在主動偷聽卧室活動的個人設備旁邊的智能手機用戶來說，比如，這個等式看起來就更不平衡了。

即使你個人不介意，你周圍的其他人呢？他們的「真實世界的聲音」也會被你的手機監聽，不管他們是否喜歡。你有沒有問過他們是否需要人工智慧量化他們發出的噪音？你要告訴你所遇到的每個人，你裝了竊聽器？

加入「人工智慧讀者俱樂部」

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！