1、數據泄露問題

　　醫療數據包括患者的身份信息、健康狀況、疾病診療情況、生物基因信息等，不僅涉及患者隱私，還具有特殊的敏感性和重要價值，一旦泄露，可能給患者帶來身心困擾和財產損失，甚至對社會穩定和國家安全造成負面影響。然而，醫療 AI 的研發與應用，必須依賴大量的醫療數據用于算法訓練，數據量越大、越多樣，其分析和預測的結果將越精準。但數據收集、分析處理、云端存儲和信息共享等大數據技術的應用，加大了數據泄露的風險。事實上，近年來醫療行業已經成為數據泄露的重災區。2017 年全球 15％的數據泄露事件來自醫療保健行業，僅次于金融業。我國醫療數據泄露事件也不鮮見。據《法制日報》2017 年 9 月報道，某部委醫療信息系統遭到黑客入侵，被泄露的公民信息多達 7 億多條，8000 多萬條公民信息被販賣。2018 年多家醫療機構計算機系統被勒索病毒攻擊。2020 年 4 月，某 AI 醫學影像公司遭黑客入侵，其 AI 輔助系統和訓練數據被竊取，并以 4 比特幣（約合 18 萬人民幣）的價格在暗網上公開出售。這也是國內首家被曝數據泄露的醫療 AI 公司案例。

　　2、醫療安全問題

　　盡管醫療 AI 被賦予了準確、高效、安全等優點，但醫療活動本身具有一定的風險性和不確定性，加上手術機器人等醫療 AI 在應用中需要密切接觸患者身體或直接作用于人體某些器官，不可避免地面臨潛在風險。主要包括技術和人為兩方面的因素。從技術來看，國內醫療 AI 的發展在當前還處于起步階段，產品性能還不穩定，也缺乏相應的標準和規范，安全性還有待考證，需要在實踐中不斷調試改進。即使是較為成熟的進口產品，也存在諸多問題。據美國媒體報道，使用沃森腫瘤解決方案的醫生發現，沃森經常會推薦不準確甚至錯誤的治療建議。如果醫生據此決策，后果難以設想。人為因素主要是醫生操作不當。在現階段，醫療 AI 還只是機器或程序，它不能根據實際情況調整自己的行為，必須依賴醫生對機械進行操控或做最終決策。在應用之初，醫生可能因經驗不足、操作不熟練而引發機器故障，有的甚至會造成嚴重后果。如 2015 年 2 月，英國首例機器人心臟手術過程中出現“機器失控”，主刀醫生在慌亂中應對失當，最終導致手術失敗，患者一周后死亡。這起事故的原因，除機器故障外，與主刀醫生操作經驗不足、未充分估計手術風險有很大關系。