深度學習軟體是黑盒子，但醫療行業將不介意使用

今年二月份，斯坦福大學的人工智慧專家、前谷歌無人駕駛汽車項目的副總裁Sebastian Thrun及其同事發現，深度學習演算法能夠診斷的皮膚癌，甚至達到了專業醫生的診斷水平。

相關的研究報告發表在了世界頂級科學期刊《Nature》上。但是，該報告僅僅是一部分，這也讓我們初步看見了「軟體診斷疾病」的新時代：在這裡，人工智慧輔助醫生診斷疾病，甚至與醫生相競爭。

在過去幾年，深度學習已經在面部識別和對象識別等方面取得了重大突破，這使得像照片，X光片，核磁共振圖片都能近乎完美地與深度學習軟體相匹配。

一些公司已經開始行動了。去年12月，谷歌的母公司（Alphabet）的生命科學部門Verily與尼康公司（Nikon）聯合開發演算法去探究糖尿病患者的失明原因。與此同時，放射學領域產生了大量的詳盡的圖片，也因此被稱為「醫藥矽谷」。

黑盒子醫療

儘管Thrun團隊的預測精度極高，但是，沒有人清楚深度學習是如何分辨癌變組織的。這就是醫學版的深度學習「黑盒子」問題。

傳統的計算機視覺軟體遵循著既定的規則，這一點與深度學習軟體不同。深度學習能夠自己找到規則並進行學習，但是這通常也帶來了麻煩——不能檢測跟蹤其學習過程，使得它所做出的決策難以解釋。

專註於衛生法研究的密歇根大學的法律學者Nicholson Price說：「在這種情況下，醫生不知道將會發生什麼，黑盒子本質就是不透明的。」

但是，Price並不認為這會給醫療行業造成嚴重障礙。他將深度學習比作藥物。有些時候，我們並不知道藥物治癒疾病的完整機制，但並不影響藥物給我們帶來的好處。鋰元素就是一個例子，它影響心情的準確生物機制目前尚未弄清楚，但含鋰的藥物仍然被批准用於治療相關疾病。一直以來，阿司匹林都是世界上使用最廣泛的藥物，但阿司匹林治癒疾病的機制在過去70年仍未被完全理解。

Price也表示，「黑盒子問題」不會給美國食品和藥物管理局（FDA）造成問題，如果深度學習軟體要用於治療和防禦疾病，它必然會受到FDA的監管。

FDA在一份聲明中表示，在過去20年，它已經批准了許多基於模式識別、機器學習和計算機視覺技術的圖像分析程序。FDA也證實它正在看到更多的深度學習軟體問世，並允許這些公司的演算法細節被保密。

FDA已經給至少一種深度學習演算法開了綠燈。

1月份，FDA批准了由Arterys（一家位於舊金山的私人醫療成像公司）開發的銷售軟體，Arterys的演算法叫「DeepVentricle」，用於分析心室內部輪廓的MRI圖像，並計算患者心臟可以保持和泵送的血液體積。Arterys說，該軟體能在30秒內完成計算，而傳統的方法通常需要花費一小時。

FDA要求Arterys進行大量的測試以確保演算法的結果能與醫師的診斷結果相媲美。該公司的首席技術官ohn Axerio-Cilies表示：「你需要在統計學上證明，你的演算法符合它所有的預期用途以及實現其正在承諾的市場聲明。」

大的需求量

為了訓練他們的軟體，Thrun領導的團隊將129405張經專家評估過皮膚狀況的圖片喂入軟體系統。這些圖片覆蓋了2032種不同的疾病，包括了確定為皮膚癌的1942張圖像。最終，該軟體在識別患有皮膚癌的任務中戰勝了21位皮膚科醫師。

該研究論文的另一名作者、斯坦福大學的皮膚科醫師Robert Novoa說：「當皮膚科醫生看到這種技術的潛力時，我認為他們大多數都會喜歡這種技術。」他和團隊其它成員都拒絕透露是否打算將該軟體商業化。

紀念斯隆凱特琳癌症中心（Memorial Sloan Kettering Cancer Center）的皮膚科醫師兼國際皮膚數字成像學會（International Society for Digital Imaging of the Skin）會長的Allan Halpern表示，擔憂醫生不久將會失業的想法都是不恰當的。他認為演算法能夠推動皮膚病學服務的迅速提高。

這是因為篩查測試中呈陽性的樣本仍需進行活檢。 Halpern說，深度學習軟體能夠在初級保健機構發揮作用，但是，如果要將其作為全民的篩查測試，或者是通過向消費者提供此應用程序，這還沒有足夠的皮膚科醫生跟蹤可疑的情況。

Axerio-Cilies表示，一些公司將會受此激勵而直接向消費者提供深度學習的診斷工具。例如，人們可以利用這些工具來掃描他們身上的痣（moles），然後決定是否他們應該去看皮膚科醫生。也有一些非AI的手機應用程序，如Mole Mapper，已經能夠跟蹤並記錄人們身上可疑的痣。

然而，Halpern說，他認為消費者還沒有準備好使用深度學習診斷系統，因為這些系統可能會用不確定的概率（如顯示消費者患癌的概率為5%，也可能是50%……）來描述消費者患癌的可能性，這種方式會讓他們感到不適。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！