1、數(shù)據(jù)泄露問題

　　醫(yī)療數(shù)據(jù)包括患者的身份信息、健康狀況、疾病診療情況、生物基因信息等，不僅涉及患者隱私，還具有特殊的敏感性和重要價值，一旦泄露，可能給患者帶來身心困擾和財產(chǎn)損失，甚至對社會穩(wěn)定和國家安全造成負(fù)面影響。然而，醫(yī)療 AI 的研發(fā)與應(yīng)用，必須依賴大量的醫(yī)療數(shù)據(jù)用于算法訓(xùn)練，數(shù)據(jù)量越大、越多樣，其分析和預(yù)測的結(jié)果將越精準(zhǔn)。但數(shù)據(jù)收集、分析處理、云端存儲和信息共享等大數(shù)據(jù)技術(shù)的應(yīng)用，加大了數(shù)據(jù)泄露的風(fēng)險。事實(shí)上，近年來醫(yī)療行業(yè)已經(jīng)成為數(shù)據(jù)泄露的重災(zāi)區(qū)。2017 年全球 15％的數(shù)據(jù)泄露事件來自醫(yī)療保健行業(yè)，僅次于金融業(yè)。我國醫(yī)療數(shù)據(jù)泄露事件也不鮮見。據(jù)《法制日報》2017 年 9 月報道，某部委醫(yī)療信息系統(tǒng)遭到黑客入侵，被泄露的公民信息多達(dá) 7 億多條，8000 多萬條公民信息被販賣。2018 年多家醫(yī)療機(jī)構(gòu)計(jì)算機(jī)系統(tǒng)被勒索病毒攻擊。2020 年 4 月，某 AI 醫(yī)學(xué)影像公司遭黑客入侵，其 AI 輔助系統(tǒng)和訓(xùn)練數(shù)據(jù)被竊取，并以 4 比特幣（約合 18 萬人民幣）的價格在暗網(wǎng)上公開出售。這也是國內(nèi)首家被曝數(shù)據(jù)泄露的醫(yī)療 AI 公司案例。

　　2、醫(yī)療安全問題

　　盡管醫(yī)療 AI 被賦予了準(zhǔn)確、高效、安全等優(yōu)點(diǎn)，但醫(yī)療活動本身具有一定的風(fēng)險性和不確定性，加上手術(shù)機(jī)器人等醫(yī)療 AI 在應(yīng)用中需要密切接觸患者身體或直接作用于人體某些器官，不可避免地面臨潛在風(fēng)險。主要包括技術(shù)和人為兩方面的因素。從技術(shù)來看，國內(nèi)醫(yī)療 AI 的發(fā)展在當(dāng)前還處于起步階段，產(chǎn)品性能還不穩(wěn)定，也缺乏相應(yīng)的標(biāo)準(zhǔn)和規(guī)范，安全性還有待考證，需要在實(shí)踐中不斷調(diào)試改進(jìn)。即使是較為成熟的進(jìn)口產(chǎn)品，也存在諸多問題。據(jù)美國媒體報道，使用沃森腫瘤解決方案的醫(yī)生發(fā)現(xiàn)，沃森經(jīng)常會推薦不準(zhǔn)確甚至錯誤的治療建議。如果醫(yī)生據(jù)此決策，后果難以設(shè)想。人為因素主要是醫(yī)生操作不當(dāng)。在現(xiàn)階段，醫(yī)療 AI 還只是機(jī)器或程序，它不能根據(jù)實(shí)際情況調(diào)整自己的行為，必須依賴醫(yī)生對機(jī)械進(jìn)行操控或做最終決策。在應(yīng)用之初，醫(yī)生可能因經(jīng)驗(yàn)不足、操作不熟練而引發(fā)機(jī)器故障，有的甚至?xí)斐蓢?yán)重后果。如 2015 年 2 月，英國首例機(jī)器人心臟手術(shù)過程中出現(xiàn)“機(jī)器失控”，主刀醫(yī)生在慌亂中應(yīng)對失當(dāng)，最終導(dǎo)致手術(shù)失敗，患者一周后死亡。這起事故的原因，除機(jī)器故障外，與主刀醫(yī)生操作經(jīng)驗(yàn)不足、未充分估計(jì)手術(shù)風(fēng)險有很大關(guān)系。