醫療AI診斷相關研究前沿——醫療AI應用風險簡報

近日，一篇關於人工智慧機器診斷皮膚癌準確率高於皮膚科專家的文章在醫療界引起熱議，報道稱在一項尋找更好、更快的皮膚癌診斷方法的研究中，電腦比人類皮膚科醫生表現得更好。來自德國、美國和法國的一個研究小組用超過10萬張圖片對一個人工智慧（AI）系統進行了訓練，使它能夠區分出危險的皮膚病變和良性的皮膚損傷。該AI機器為深度學習卷積神經網路（CNN），在區分惡性黑素瘤和良性痣的照片的測試中，打敗了來自17個國家的58名皮膚科醫生。其中超過一半為5年以上的經驗皮膚科「專家」醫生，19%為有2到5年的臨床經驗的醫生，29%為臨床經驗不到兩年的醫生。

圖1：文獻節選

資料來源：Annals of Oncology 0: 1–7, 2018 doi:10.1093/annonc/mdy166

該文章發表在5月的Annals of Oncology上，文中利用卷積神經網路（CNN）的深度學習機器在同時進行學習階段一——即只提供皮膚鏡圖像的情況下——CNN勝過皮膚科醫生，但考慮到現實中醫學判斷會需要更多的信息來做決定，所以在進行學習階段二時，儘管皮膚科醫生的平均敏感度有所上升，但仍然輸給CNN。文章中也提供了CNN 的演算法與2016年前五名演算法在這項研究中結果的對比，最終得出CNN與來自17個國家的58名皮膚科醫生對比，CNN勝出。文章中指出自動化診斷遲早會改變皮膚病的診斷模式，正在醫療界在討論人工智慧改變醫療模式未來的時候，一篇由哈佛和MIT聯合的研究對人工智慧在醫療診斷中的運用發出了警告，這篇文章發布在arXiv上，研究者用對抗樣本很容易欺騙AI診斷軟體。

圖2:：文獻節選

資料來源：arXiv:1804.05296v2[cs.CR] 21 May 2018

本文研究者採用了兩種攻擊方案- human-imperceptible attacks 和 adversarial patch attacks測試機器學習模型的弱點，最後測試的結果是這兩種對抗攻擊都取得了成功，文中更是警告此類對抗技術如果應用在實際臨床中，可能部分醫生會因為利益，進行一些不必要的診治，甚至採取欺詐手段欺騙保險公司。文章最後作者指出機器學習被運用於醫療診斷中的初衷是為了節省成本與提高結果的有效性，而演算法是其中最重要的環節，而演算法對於對抗攻擊是否能識別出或者有效的解決這種對抗攻擊，是值得計算機科學家、醫學專家、機器學習專家以及機器學習模型的使用者，政策的制定人共同值得思考的問題。

隨著人工智慧的發展，AI應用逐漸被運用於醫療領域，其初衷是為了減少人力成本，提升流程效率和提高診斷的準確度，醫療影像診斷為人工智慧醫療診斷中的熱點。因為其醫療大數據中有大部分數據來源於醫學影像數據，而海量數據則是建模和演算法的基礎。現在較為常見的學習方式為卷積神經網路（CNN）和深度神經網路（DNN）。但在醫療診斷AI實際運用中，正如前文所述，由於模型演算法的弱點，AI在醫療圖像診斷的運用會存在諸多問題和風險，甚至有可能成為不法分子用來謀利的手段。醫療AI的使用者由於信息不對稱，對於模型演算法的不了解，在使用過程中有可能會加劇醫療AI所帶來的運用風險。雖然醫療人工智慧為人工智慧最有應用潛力的領域之一，但由於醫療本身的複雜性、醫學倫理、數據質量等問題，使得醫療AI應用面臨較大的技術實現難度。雖然在醫療領域最成熟的AI應用IBM Watson已經完全投入商用，但是與全球知名腫瘤專科醫院MD Anderson的合作，由於研究方向多次變化，投入過高沒有收益等原因最後導致項目失敗，近日IBM Watson正在裁員50%-70%，IBM Watson裁員並非意味著醫療AI的災難，但從側面可以說明AI醫療診斷還處於早期階段階段，雖然長期來看醫療AI的應用前景光明，但是為了實現臨床應用和穩定盈利，短期仍有技術、倫理、法律、盈利模式等諸多困難待解決。

圖3：A股醫療AI診斷相關個股

數據來源：SGRCR

圖4：A股醫療AI診斷個股全數據分析

數據來源：SGRCR

（桑葛石）

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！