DeepMind數據「隱私門」終裁，使用NHS患者數據被判違法

新智元編譯

根據英國數據監護機構，英國醫院和Google的AI子公司DeepMind之間的一項數據共享交易「沒有遵守數據保護法案」。信息專員辦公室（ICO）在對該交易進行了長達一年的調查後，本周一做出以上裁決。DeepMind處理了來自皇家自由NHS信託基金會（Royal Free NHS Trust）3家倫敦醫院的160萬名患者記錄。

這筆交易最初完成於2015年，後來被一項新協議取代。當時，DeepMind和皇家自由信託表示他們共享的數據用於開發一個名為Streams的智能手機應用程序，這個應用程序可以監測患者急性腎損傷的風險，並向醫生髮送警報。2016年4月《新科學家》發布的一份調查顯示，該協議的條款比原來暗示的更加寬泛。DeepMind已經與其他英國醫院達成新的部署 Streams的交易。

ICO表示在該協議中發現了「一些缺點」，尤其是病人沒有完全了解他們的個人信息將被如何使用。英國信息專員伊麗莎白·德納姆（Elizabeth Denham）在新聞稿中表示，「技術創新不能侵犯基本的隱私權」。

根據ICO的說法，沒有人詢問過患者是否同意DeepMind處理自己的醫療數據。協議中共享的信息包括藥物過量、墮胎、是否HIV病毒攜帶者等。DeepMind和皇家自由信託聲稱患者提供「默認同意」共享這些信息，因為這些信息將用於通過Streams應用程序提供「直接護理」。

ICO的裁決表明，這兩家機構的聲明還遠遠不夠。Denham說：「病人不會預期到他們的信息被這樣使用了，而信託基金會本可以，而且應該對病人更加透明。」

協議中明確的事情是，這些隱私數據不會與DeepMind的母公司Google共享，也不會使用機器學習或AI工具來分析這些數據。（儘管DeepMind還參與了與英國議員的另外兩項獨立交易，開發用於改善癌症治療和眼疾治療的AI驅動的演算法。）

DeepMind在回應這一裁決的博客文章中表示歡迎ICO對此案「周到的決議」，並承認在初始的協議中犯了一些錯誤。該公司表示，它本應該向患者和公眾更好地解釋這個交易，而且「低估了NHS和有關患者數據規則的複雜性」。

在ICO昨天發表的新聞稿中，該監管機構表示，在急於創新的情況下，皇家自由信託基金會這樣的機構也不應該忘記遵守法律。該信託基金被要求籤署一項新的協議，承諾遵守法律規定，並對2015年的使用進行審查。

DeepMind官方聲明

當前，英國醫院中仍有許多人由於沒有及時發現的膿毒病和急性腎損傷（AKI）等情況死亡，而這些死亡本來是可以避免的。為了解決這個問題，我們與皇家自由倫敦NHS信託基金會的臨床醫生合作建立了Streams應用程序，使用移動技術自動檢測AKI發作時的嚴重問題的測試結果。如果發現，Streams會向相應的臨床醫生的智能手機發送安全警報，以及有關患者先前病情的信息，以便立即進行診斷。

我們感到自豪的是，Streams部署在皇家自由信託醫院的幾個星期之內，護士們說每天節省了兩小時的時間，我們也聽說多虧這個警報，病情嚴重的病人得到了及時的治療。Streams旨在為將來的例如AI驅動的臨床警報等更先進的技術做準備，我們希望能夠及時為患者和臨床醫生帶來更多的益處。

信息專員辦公室（ICO）已經完成一項為期一年的調查，重點是2015年底和2016年間皇家自由信託對Streams的臨床測試，以確保這一服務能夠在醫院安全地部署。ICO對在測試中使用患者數據的法律依據不滿意，並引起了對病人知情權的擔憂。ICO發現這樣的許多問題已經由皇家自由信託處理，並要求信託基金會簽署一份正式承諾，確保將來遵守。

ICO的工作也認為，皇家自由信託已經掌握所有患者的數據，而DeepMind僅是「數據處理者」的角色，並且遵守信託基金會的指示。ICO沒有提出有關數據的安全性的問題。

我們歡迎ICO對此案周到的決議，我們希望這將保證Streams繼續安全和合法地處理患者數據。

雖然今天的發現是關於皇家自由信託的，但我們也需要反思自己的行為。在2015年這項工作開始時，我們決心要加快實現影響，我們低估了NHS和有關患者數據規則的複雜性，以及技術公司進入醫療領域存在的潛在擔憂。我們幾乎是完全專註於構建護士和醫生想要的工具，並將我們的工作視為針對臨床醫生的技術，而不是需要對患者，公眾和NHS整體負責的事情。我們這樣的認識是錯誤的，我們需要做得更好。

從那時起，我們一直努力對透明度，監督和參與度做出一些重要的改進。例如：

• 我們在2015年與皇家自由信託基金會簽署的最初法律協議本應對正在進行的具體項目以及我們在處理患者信息過程中同意遵循的規則進行更為詳細的說明。我們和皇家自由信託在2016年用更全面的協議取代了原始協議，我們也與其他NHS信託基金使用Streams簽署了類似的有力協議。

• 我們在2015年第一次與NHS合作時沒有公開我們的工作是錯誤的，所以我們主動宣布並公開發布了我們後來與NHS進行合作的協議。

• 我們最初急於與護士和醫生合作創造出能滿足臨床需求的產品，那時我們沒有讓患者和公眾足夠地了解我們的工作。後來，我們與病人專家合作，設計了一個讓病人和公眾參與策略，並在2016年9月舉行了第一次大型開放活動，未來還會有更多這樣的活動。

• 為了加強對我們的工作的監督，我們邀請了9位有名望的獨立審查員細緻審查了DeepMind Health，這是遠在任何監管或媒體批評之前進行的。這個團隊即將發表他們第一年的研究結果，我們期待他們提出改進的建議。

我們希望這些舉措有助於提高NHS IT整體的水平，並希望未來進一步推行可驗證數據審核（Verifiable Data Audit）等項目。

總而言之，如果我們想要通過技術來支持NHS這樣一個重要的社會機構，那麼我們必須確保我們服務於社會的優先事項，而不是超出它們。找到有效的新方法來改善醫療，甚至超越患者的期望，這是一條很好的路徑。我們知道，當我們剛開始進入醫療領域時，我們在這些方面很不足。我們將繼續傾聽和了解如何做得更好。我們也完全同意權威的觀點，包括國家數據監管機構（National Data Guardian）和了解患者數據機構（UnderstandingPatient Data），他們呼籲更多地公開使用數據來改善醫療保健，而我們可以儘力給予支持。

我們是一個與NHS一同成長起來，並與NHS一同工作的團隊，我們很榮幸有機會將我們的專業技術用於幫助病人、護士、醫生以及我們所熱愛的醫療服務事業。這是一個讓人興奮的機會，我們一直相信的事情將得到證明：如果我們得到道德、責任感和參與權，那麼新的技術體系將對社會產生巨大的積極影響。這是我們可以想像的最重要的挑戰。

參考鏈接：https://www.theverge.com/2017/7/3/15900670/google-deepmind-royal-free-2015-data-deal-ico-ruling-illegal

https://deepmind.com/blog/ico-royal-free/

點擊閱讀原文查看新智元招聘信息

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！