醫(yī)療保健行業(yè)似乎是部署人工智能系統(tǒng)的理想場所。每次的醫(yī)學(xué)檢測、醫(yī)生診斷及過程，都是被記錄下來的，而且患者的醫(yī)療記錄正越來越多地以電子格式存儲。人工智能系統(tǒng)可以分析這些數(shù)據(jù)并得出結(jié)論，指出如何提供更好的和更具成本效益的護(hù)理。

許多研究人員正在建立這樣的AI系統(tǒng)。醫(yī)學(xué)和計(jì)算機(jī)科學(xué)期刊上發(fā)表了很多介紹實(shí)驗(yàn)性AI系統(tǒng)的文章，這些AI系統(tǒng)可以解析患者記錄，掃描影像，并給出關(guān)于患者健康情況的診斷和預(yù)測。然而，這些系統(tǒng)還鮮有進(jìn)入醫(yī)院和診所以發(fā)揮其價值的。

阻礙因素是什么呢？匹茲堡大學(xué)醫(yī)學(xué)院的研究員和醫(yī)生ShinjiniKundu說，障礙并不在于技術(shù)方面?！罢系K主要在信任方面，”她說。“你可能有一項(xiàng)很棒的技術(shù)，但你如何讓人們使用這項(xiàng)技術(shù)并信賴它呢？”

大多數(shù)醫(yī)療AI系統(tǒng)都是攝入數(shù)據(jù)后給出答案的“黑匣子”。以他們不理解的推理為基礎(chǔ)進(jìn)行治療，醫(yī)生們對此心存擔(dān)憂，這是可以理解的。因此，研究人員正在嘗試各種技術(shù)來創(chuàng)建能展示其如何工作的系統(tǒng)。

給我們畫一幅圖

Kundu最近在聯(lián)合國的AIforGood會議上介紹了她的研究。她正致力于研究對醫(yī)學(xué)圖像進(jìn)行分析并解釋其所見的AI。她的系統(tǒng)包含一個機(jī)器學(xué)習(xí)組件，該組件檢查諸如MRI掃描影像等的圖像，并找出醫(yī)生感興趣的圖案。

在Kundu最近的實(shí)驗(yàn)中，AI分析了若干膝關(guān)節(jié)MRI影像并預(yù)測了哪些膝蓋會在三年內(nèi)發(fā)生骨關(guān)節(jié)炎。然后，使用一種稱為“生成建?！保╣enerativemodeling）的技術(shù)，AI創(chuàng)建了一幅新圖像——一幅顯示出膝蓋肯定會發(fā)展這種狀況的MRI影像。Kundu說他們啟用了一個黑匣子分類器來生成這些新圖像。

照片來源：上圖，OsteoarthritisInitiative；下圖，UniversityofPittsburghSchoolofMedicine。

預(yù)測的力量：人類的眼睛無法分辨出那些在三年內(nèi)會發(fā)生膝關(guān)節(jié)炎的患者和不會發(fā)生膝關(guān)節(jié)炎的患者的MRI掃描影像之間的區(qū)別。但AI發(fā)現(xiàn)了它們在軟骨圖案部分的微妙差異，并向研究人員展示了這些差異。

AI系統(tǒng)生成的圖像顯示，它是基于顯示在MRI掃描影像中的軟骨的細(xì)微變化（人類醫(yī)生沒能注意到它們）來做出預(yù)測的。Kundu說：“這是這項(xiàng)工作另一個很重要的方面。它幫助人類了解關(guān)節(jié)炎的早期發(fā)育過程可能是怎樣的。”

現(xiàn)在你看到了什么？

加利福尼亞大學(xué)的助理教授和執(zhí)業(yè)心臟病專家RimaArnaout訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)來對超聲心動圖進(jìn)行分類（超聲波掃描對于心臟疾病的診斷是至關(guān)重要的）。在今年3月份的NPJDigitalMedicine期刊上，發(fā)表了她對其第一版AI系統(tǒng)的介紹。在從對心臟進(jìn)行透視的角度分類低分辨率的圖像上，該系統(tǒng)所做的分類結(jié)果比心臟科醫(yī)生所做的要更準(zhǔn)確。該系統(tǒng)的下一版本將使用這些信息來識別視野中的解剖結(jié)構(gòu)并診斷心臟疾病和缺陷。

圖片來源：Rima Arnaout

但這樣的診斷系統(tǒng)不太可能被醫(yī)生們接受：“我永遠(yuǎn)不會因?yàn)橛?jì)算機(jī)讓我這樣做就做出與我自己的判斷不相符的診斷，”Arnaout說。為此，她使用了兩種技術(shù)來理解她的分類器是如何做出決定的。在遮擋實(shí)驗(yàn)中，她對待測圖像的部分區(qū)域進(jìn)行了遮擋，看看AI的答案會如何改變；通過顯著性映射，她將神經(jīng)網(wǎng)絡(luò)給出的最終答案向原始圖像追溯，以發(fā)現(xiàn)哪些像素承載的權(quán)重最大。

這兩種技術(shù)都顯示了AI依賴圖像的一部分來做出決策。令人鼓舞的是，對人工智能決策貢獻(xiàn)最大的結(jié)構(gòu)也是人類專家認(rèn)為重要的結(jié)構(gòu)。

超越相關(guān)性

微軟研究院的首席研究員RichCaruana幾十年來一直致力于創(chuàng)建不僅智能而且易懂的機(jī)器學(xué)習(xí)模型。他的人工智能使用醫(yī)院的電子健康記錄來預(yù)測患者的預(yù)后情況。但他發(fā)現(xiàn)，即使是看似高度準(zhǔn)確的模型，也會隱藏著嚴(yán)重的缺陷。

在他正進(jìn)行的一項(xiàng)研究中，他訓(xùn)練了一個機(jī)器學(xué)習(xí)模型，用來區(qū)分應(yīng)住院治療的肺炎高風(fēng)險(xiǎn)患者和可以在家休養(yǎng)的肺炎低風(fēng)險(xiǎn)患者。該模型發(fā)現(xiàn)患有心臟病的人死于肺炎的可能性較小，并自信地?cái)嘌赃@些患者風(fēng)險(xiǎn)較低。

Caruana解釋說，被診斷患有肺炎的心臟病患者在風(fēng)險(xiǎn)高低方面之所以有更好的輸出結(jié)果，并不是因?yàn)樗麄兙褪秋L(fēng)險(xiǎn)低，而是因?yàn)樗麄兺ǔＴ谝怀霈F(xiàn)呼吸問題時就去急診室，因而第一時間得到了診斷和治療。“模型發(fā)現(xiàn)的相關(guān)性是真實(shí)的，”Caruana說，“但如果我們用它來指導(dǎo)醫(yī)療干預(yù)，那么實(shí)際上我們會受到傷害，甚至可能會害死一些病人?！被谶@樣的發(fā)現(xiàn)，他現(xiàn)在正在研究能清楚地顯示變量之間關(guān)系的機(jī)器學(xué)習(xí)模型，以便讓他能判斷模型是否不僅在統(tǒng)計(jì)學(xué)上是準(zhǔn)確的，而且在臨床上也是有用的。