DeepMind陷輿論爭議：或造成健康數據過度壟斷

DeepMind進軍數字醫療服務領域的努力仍令人擔憂。最近的擔憂是由谷歌旗下的人工智慧公司任命的一個外部審查人員組成的小組所帶來，該小組就DeepMind與英國國家醫療服務(NHS)進行初步數據共享進行報告。這使得DeepMind引發了一場重大公眾爭議。

2018年DeepMind Health獨立評論者報告(The DeepMind Health Independent Reviewers』2018 report)標誌了一系列風險和擔憂,在他們看來,這包括DeepMind健康能夠「發揮過度的壟斷力量」，這是基於數據訪問和與Streams應用程序規則綁定的流媒體基礎設施所帶來的結果。這將DeepMind定位為結構化健康數據以及任何其他第三方之間的訪問控制中介，這些第三方可能在未來希望向Trust提供其數字幫助解決方案。

雖然DeepMind的Streams應用部署的基礎FHIR(fast healthcare interoperability resource，又名快速醫療互操作性資源)使用開放式API，但該公司與Royal Free Trust之間的合同通過DeepMind自己的伺服器連接，並禁止連接到其他FHIR伺服器。這個商業結構似乎與DeepMind的共同創始人穆斯塔法蘇萊曼(Mustafa Suleyman)聲稱支持的開放性和互操作性言論相悖。

「IT領域有很多例子，公司將客戶鎖定在難以改變或替換的系統中。這樣的安排不符合公眾的利益。我們不希望看到DeepMind Health將自己置於這樣的位置，即醫院等客戶發現自己被迫與DeepMind Health保持聯繫，即使這已經不再是經濟上或臨床上明智的做法。我們希望DeepMind Health能夠在質量和價格上進行競爭，而不是通過鞏固遺留的立場來進行競爭「，一位評論員寫到。

儘管他們指出DeepMind「對系統互操作性的陳述承諾」以及「採用FHIR開放API」是一種積極的指示，但同時「這意味著其他許多中小企業有可能參與其中，創造多樣化和創新的市場，為消費者，創新和經濟服務。」

「我們還注意到DeepMind Health公司打算將Streams的許多功能作為可輕鬆交換的模塊來實施，這意味著其將不得不依靠最好的方式來維持業務。」他們補充道。

然而，陳述的意圖和未來潛力顯然與實際情況不一樣。 而且，就目前而言，技術上可互操作的應用交付基礎設施正受到商業合同中禁止性條款的約束 ，以及缺乏針對此類行為的監管阻力。

評論者還對DeepMind Health的商業模式持續缺乏明確性表示擔憂 ，「鑒於目前的環境，DeepMind Health的商業模式並不清楚，人們很可能會懷疑有一個未公開的利潤動機或隱藏的議程。 我們並不認為這是事實，但會敦促DeepMind Health對其商業模式保持透明，並且堅持這一點的能力不會被Alphabet忽略。 一旦隱藏議程的想法在人們的頭腦中固定下來，無論公司的動機如何，公共利益都很難轉變。」

「我們已經就DeepMind Health在這一領域發展的想法進行了詳細對話，並且知道其中一些問題還沒有最終確定。 然而，我們敦促DeepMind Health公開提出他們提出的建議，「他們補充道。

DeepMind提出其想要建立能夠按結果收費的醫療保健認證。但Streams不涉及任何AI。這項服務也是免費提供給NHS Trusts的，至少在頭五年。這就提出了Google旗下的的公司如何收回投資的問題。

谷歌當然可以通過一系列免費使用的消費類產品(如Android手機操作系統)進行貨幣化，這其中還有雲電子郵件服務Gmail以及YouTube視頻共享平台，此類產品收集用戶的個人數據並將信息提供給廣告定位平台。

因此，評論員建議DeepMind對其商業模式進行思考與闡述，以避免人們對其醫療數據背後的意圖產生質疑。

如果允許DeepMind在數字醫療保健服務提供商中佔據支配地位，該公司的歷史作風也顯露出了潛在的壟斷風險—考慮到其母公司如何有效地將免費原始設備製造商移動操作系統(Android)變為全球化主導的智能手機操作系統。

因此，儘管DeepMind在這個階段與NHS Trusts簽訂了少量合同，但審查人員對公司獲得「過度壟斷權」風險的擔憂似乎並不顯得過分。

他們還對DeepMind與其母公司Alphabet的工作合作方式所呈現出的模糊性表示擔憂，哪些數據可以被傳輸給廣告巨頭也不甚明朗——當數據信息被用於廣告並與DeepMind處理的個人醫療記錄相疊加時，這是一種不可避免卻令人不安的組合。

「DeepMind Health能夠在多大程度上將自己與Alphabet保持相對獨立，引導其未來避免做一些它今天承諾不會做的事情?或者，如果DeepMind Health目前的管理層離開DeepMind Health，那麼新任CEO能夠在多少程度上改變今天已經達成的協議?」他們寫道。

「我們讚賞DeepMind Health將繼續受法律和監管框架的約束，但我們的大部分注意力都集中在DeepMind Health採取的步驟上，站在比法律要求更為合乎道德的立場之上，這一切都可以結束了嗎?我們鼓勵DeepMind Health以更強大的方式加強與Alphabet和DeepMind的分離，從而使其能夠對其作出的承諾保持持久的力量。」

在回應中，DeepMind寫道「正在制定我們的長期業務模式和路線圖」。

「我們的首要任務就是證明我們的技術可以幫助改善患者護理質量並降低成本，而不是為我們早期階段的收費。我們相信，我們的業務模式應該來自我們創造的積極影響，並將繼續探索基於結果的要素，以便成本至少部分與我們提供的收益相關。」DeepMind繼續表示。

因此，除了開展一些公共關係的節目之外，並沒有什麼可以減輕評論者對將健康數據貨幣化意圖的擔憂。

在與Alphabet的聯合中，DeepMind也很少提及，只寫道：「我們會進一步的探索具有法律效應的框架，去確保管理我們所有的與國民醫療服務計劃(NHS，National Health Service)的合作都合法。

「Trust公司會始終託管著健康數據，」它補充道。「我們只會根據和合作者約定的合同去使用患者的數據，做到合法而且合規。我們將繼續與Trust公司簽署法律協議，以便審查這一重要問題。」

「在我們與合作夥伴約定的法律協議中，沒有任何條例阻止他們與任何其他數據處理方合作，如果他們希望尋求另一個提供商的服務。」它接著回應了我們提出的其他問題。

「我們希望Streams能夠幫助解鎖NHS下一波的創新浪潮。Streams的基礎架構是建立在最先進的開放式互操作標準之上，即FHIR。在英國，NHS Digital、NHS England和INTEROPen集團應用FHIR標準。這應該使我們的合作夥伴相信與其他開發人員的合作是更容易的，從而幫助他們為臨床前線帶來更多創新，」它向我們補充了一些評論。

「根據我們與相關合作夥伴Trust的合同協議，我們承諾在協議的五年內製定FHIR API基礎設施。」

當被問及在去年公布的用於驗證健康數據訪問的技術審計基礎架構方面取得的進展時，DeepMind重申了其博客上的措辭，稱：「我們將保持對設定儘可能高的信息治理標準的警惕。今年年初，我們任命了一名全職信息管理經理來監督我們在所有工作領域使用的數據。我們還在繼續構建我們的可驗證數據審計和其他工具，以清楚地展示我們如何使用數據。」

因此，這一方面的發展看起來像我們預期的那樣緩慢。

這家Google旗下的英國人工智慧公司於2015年開始推進數字醫療服務，與倫敦的NHS Trust悄悄簽署信息共享協議，為其提供了大約160萬人的醫療記錄，用於開發病情警報應用程序，該程序被稱為「急性腎損傷」。

其還與Trust簽署了一份合作備忘錄，雙方表示了將AI應用於NHS數據集的雄心。 (他們甚至為AI項目獲得了道德標誌 ——但一直聲稱並Royal Free數據未供應給任何認可機構。)

然而，2016年5月，當Royal Free with DeepMind透露患者數據的範圍時(通過調查性新聞而不是Trust或DeepMind的披露)，數據共享合作遇到了麻煩。

160萬人的非匿名病歷在未被告知或徵得同意的情況下被轉交給Google旗下的公司，基於數據共享安排的法律依據，這一問題引發了質疑。

去年夏天，英國的隱私監管機構對該項目進行了調查 - 發現Royal Free NHS Trust在應用開發過程中違反了數據保護規則。

儘管考慮到道德問題和法規，人們對數據共享的合法性保有不滿，但Streams項目仍在蒸蒸日上。Royal Free Trust繼續將該應用程序提供給醫院臨床醫生使用，而DeepMind還簽署了幾項額外的合同，將Streams部署到其他NHS Trust。

最近，法律事務所Linklaters在Trust委託下完成對Royal Free Streams項目的審計，作為其與ICO結算的一部分。雖然這次審計僅檢查了Streams的當前功能。 (在項目建設和測試階段，沒有對人員病歷的合法性進行歷史審核。)

Linklaters確實建議Royal Free通過DeepMind終止其更廣泛的合作備忘錄——而且該Trust已向我們證實，它將遵循該公司的建議。

「審計建議我們終止與DeepMind達成的歷史性合作備忘錄，該備忘錄於2016年1月簽署。合作備忘錄與合作關係不再相關，我們正在終止合作關係，」Royal Free發言人告訴我們。

因此，DeepMind可能是世界上最著名的人工智慧公司，它正處於參與向英國醫院提供數字醫療服務的奇怪位置，這些醫院實際上並不涉及任何人工智慧。(儘管醫院也有一些與NHS Trusts進行的AI研究項目。)

2016年年中，在Royal Free DeepMind數據醜聞的高峰期中，為了爭取更多的公眾信任 ，該公司任命了外部審查小組，他們現在已經編寫了第二份報告，研究該部門的運作情況。

公平地說，科技行業發生了很多事情，因為專家組被指定為進一步破壞公眾對技術平台和演算法承諾的信任——包括ICO發現Royal Free和DeepMind之間的初始數據共享違反了了英國隱私法律。

2018報告小組的8名成員是：Martin Bromiley OBE、Elisabeth Buggins CBE、Eileen Burbidge MBE、Richard Horton、Julian Huppert博士、Donal O』Donoghue教授、Matthew Taylor和John Tooke教授。

在他們最新的報告中，外部評論員警告說，公眾對科技巨頭的看法與一年前相比有「大幅轉變」 ——他們斷言「數字時代的隱私問題如果有的話，更值得關注」。

與此同時，政界人士也更關注技術巨頭的成果和社會影響。

儘管英國政府也熱衷於將自己定位為AI的支持者，為該部門提供公共資金，並在其「工業戰略」白皮書中將AI和數據確定為四大所謂的「重大挑戰」之一，英國可以「在未來幾年中引領世界」 ，並專門將DeepMind作為該國引以為傲的少數領先的本土人工智慧業務之一。

儘管如此，關於如何管理公共部門數據以及人工智慧部署的問題，特別是在醫療保健等高度敏感的領域，仍需要政府進行明確解決。

與此同時，即使技術人員甚至不涉及任何人工智慧，數字技術正在進入醫療保健領域。這種趨勢帶來了重大挑戰，對現有的信息治理規則和結構施加了壓力，並增加了壟斷的風險。

當被問及NHS的數字服務提供商：NHS Digital是否為NHS Trust提供任何指導，包括醫生的數字幫助，特別是它是否需要由不同的提供者提供的多個選項時，它將我們的問題提交給衛生部(DOH)，並指出這是衛生政策的問題。

DOH反過來將問題提交給了英格蘭國民保健局，該委員會是委員會的非部門機構，負責委託合同並確定英格蘭衛生服務的優先順序和方向。

在撰寫本文時，我們仍在等待負責機構的回應。

最終，看起來衛生服務部門將為人工智慧和數字決策服務建立一個清晰和健壯的結構，通過Trust在購買應用程序和服務時支持多個獨立選項的需求，從而促進設計競爭。

沒有這種重要的制衡和平衡，風險就在於平台動態將快速主導和控制新興的數字健康援助領域——正如大型科技主導消費者科技一樣。

但公共資助的醫療保健決策和數據集不應該簡單地交給那些願意並且能夠消耗大部分資源來擁有這個空間的單一市場主導實體。

一個明顯的風險是，當數字創新的一個重要領域有可能被一個科技巨頭壟斷，並在其他人有機會展示自身、市場初步形成的時候，面對巨頭將自己定位為守門員的境況，政府不應該袖手旁觀。

選自：techcrunch

作者：Natasha Lomas

來源：網易智能

感謝觀看！

end

網路大數據

致力於打造中國最專業的網路大數據科學門戶網站。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！