本文依托于綜述性文章，首先回顧了可解釋性方法的主要分類以及可解釋深度學(xué)習(xí)在醫(yī)療圖像診斷領(lǐng)域中應(yīng)用的主要方法。然后，結(jié)合三篇文章具體分析了可解釋深度學(xué)習(xí)模型在醫(yī)療圖像分析中的應(yīng)用。作為一種領(lǐng)先的人工智能方法，深度學(xué)習(xí)應(yīng)用于各種醫(yī)學(xué)診斷任務(wù)都是非常有效的，在某些方面甚至超過(guò)了人類專家。其中，一些計(jì)算機(jī)視覺(jué)方面的最新技術(shù)已經(jīng)應(yīng)用于醫(yī)學(xué)成像任務(wù)中，如阿爾茨海默病的分類、肺癌檢測(cè)、視網(wǎng)膜疾病檢測(cè)等。但是，這些方法都沒(méi)有在醫(yī)學(xué)領(lǐng)域中得以廣泛推廣，除了計(jì)算成本高、訓(xùn)練樣本數(shù)據(jù)缺乏等因素外，深度學(xué)習(xí)方法本身的黑盒特性是阻礙其應(yīng)用的主要原因。盡管深度學(xué)習(xí)方法有著比較完備的數(shù)學(xué)統(tǒng)計(jì)原理，但對(duì)于給定任務(wù)的知識(shí)表征學(xué)習(xí)尚缺乏明確解釋。深度學(xué)習(xí)的黑盒特性以及檢查黑盒模型行為工具的缺乏影響了其在眾多領(lǐng)域中的應(yīng)用，比如醫(yī)學(xué)領(lǐng)域以及金融領(lǐng)域、自動(dòng)駕駛領(lǐng)域等。在這些領(lǐng)域中，所使用模型的可解釋性和可靠性是影響最終用戶信任的關(guān)鍵因素。由于深度學(xué)習(xí)模型不可解釋，研究人員無(wú)法將模型中的神經(jīng)元權(quán)重直接理解 / 解釋為知識(shí)。此外，一些文章的研究結(jié)果表明，無(wú)論是激活的幅度或選擇性，還是對(duì)網(wǎng)絡(luò)決策的影響，都不足以決定一個(gè)神經(jīng)元對(duì)給定任務(wù)的重要性［2］ ，即，現(xiàn)有的深度學(xué)習(xí)模型中的主要參數(shù)和結(jié)構(gòu)都不能直接解釋模型。因此，在醫(yī)學(xué)、金融、自動(dòng)駕駛等領(lǐng)域中深度學(xué)習(xí)方法尚未實(shí)現(xiàn)廣泛的推廣應(yīng)用?？山忉屝允侵府?dāng)人們?cè)诹私饣蚪鉀Q一件事情的過(guò)程中，能夠獲得所需要的足夠的可以理解的信息。深度學(xué)習(xí)方法的可解釋性則是指能夠理解深度學(xué)習(xí)模型內(nèi)部機(jī)制以及能夠理解深度學(xué)習(xí)模型的結(jié)果。關(guān)于 “可解釋性” 英文有兩個(gè)對(duì)應(yīng)的單詞，分別是 “Explainability” 和“Interpretability”。這兩個(gè)單詞在文獻(xiàn)中經(jīng)常是互換使用的。一般來(lái)說(shuō)，“Interpretability”主要是指將一個(gè)抽象概念（如輸出類別）映射到一個(gè)域示例（Domain Example），而 “Explainability” 則是指能夠生成一組域特征（Domain Features），例如圖像的像素，這些特征有助于模型的輸出決策。本文聚焦的是醫(yī)學(xué)影像學(xué)背景下深度學(xué)習(xí)模型的可解釋性（Explainability）研究?？山忉屝栽卺t(yī)學(xué)領(lǐng)域中是非常重要的。一個(gè)醫(yī)療診斷系統(tǒng)必須是透明的（transparent）、可理解的（understandable）、可解釋的（explainable），以獲得醫(yī)生、監(jiān)管者和病人的信任。理想情況下，它應(yīng)該能夠向所有相關(guān)方解釋做出某個(gè)決定的完整邏輯。公平、可信地使用人工智能，是在現(xiàn)實(shí)世界中部署人工智能方法或模型的關(guān)鍵因素。本文重點(diǎn)關(guān)注可解釋深度學(xué)習(xí)方法在醫(yī)療圖像診斷中的應(yīng)用。由于醫(yī)學(xué)圖像自有的特點(diǎn)，構(gòu)建用于醫(yī)療圖像分析的可解釋深度學(xué)習(xí)模型與其它領(lǐng)域中的應(yīng)用是不同的。本文依托于綜述性文章，首先回顧了可解釋性方法的主要分類以及可解釋深度學(xué)習(xí)在醫(yī)療圖像診斷領(lǐng)域中應(yīng)用的主要方法。然后，結(jié)合三篇文章具體分析了可解釋深度學(xué)習(xí)模型在醫(yī)療圖像分析中的應(yīng)用。