淺談機器學習模型的可解釋性和透明性
XAI 主要解決以下問題：對于使用者而言某些機器學習模型如同黑盒一般，給它一個輸入，決策出一個結(jié)果。比如大部分深度學習的模型，沒人能確切知道它決策的依據(jù)以及決策是否可靠。如圖 1 的 output 所示，為一般網(wǎng)絡(luò)給出的決策，缺乏可解釋性的結(jié)果讓使用者感到困惑，嚴重限制了其在現(xiàn)實任務(wù)中的廣泛應(yīng)用。
圖 1 如今的深度學習 [1]
所以為了提高機器學習模型的可解釋性和透明性，使用戶和決策模型之間建立信任關(guān)系，近年來學術(shù)界進行了廣泛和深入的研究并提出了可解釋的機器學習模型。如圖 2，模型在決策的同時給出相應(yīng)的解釋，以獲得用戶的信任和理解。
圖 2 可解釋的機器學習 [1]
對于機器學習模型來說，我們常常會提到２個概念：模型準確性（accuracy）和模型復雜度（complexity）。模型的復雜度與準確性相關(guān)，又與模型的可解釋性相對立。因此我們希望找到一種模型如圖 3 所示，具有可解釋性的同時盡可能保證模型的準確性和復雜度。
編輯：hfy
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
機器學習
+關(guān)注
關(guān)注
67文章
8567瀏覽量
137258 -
深度學習
+關(guān)注
關(guān)注
73文章
5610瀏覽量
124656
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
機器學習模型可解釋性的結(jié)果分析
模型的可解釋性是機器學習領(lǐng)域的一個重要分支，隨著 AI 應(yīng)用范圍的不斷擴大，人們越來越不滿足于模型的黑盒特性，與此同時，金融、自動駕駛等領(lǐng)域
發(fā)表于 09-28 10:17
?1825次閱讀
什么是“可解釋的”? 可解釋性AI不能解釋什么
通過建立既可解釋又準確的模型來改良這種錯誤的二分法。關(guān)鍵是將神經(jīng)網(wǎng)絡(luò)與決策樹相結(jié)合，在使用神經(jīng)網(wǎng)絡(luò)進行低級決策時保留高級的可解釋性。
發(fā)表于 05-31 10:51
?9331次閱讀
機器學習模型的“可解釋性”的概念及其重要意義
如果考察某些類型的“事后可解釋性”（post-hoc interpretable），深度神經(jīng)網(wǎng)絡(luò)具有明顯的優(yōu)勢。深度神經(jīng)網(wǎng)絡(luò)能夠學習豐富的表示，這些表示能夠可視化、用語言表達或用于聚類。如果考慮對可解釋性的需求，似乎線性
神經(jīng)網(wǎng)絡(luò)可解釋性研究的重要性日益凸顯
神經(jīng)網(wǎng)絡(luò)的可解釋性，從經(jīng)驗主義到數(shù)學建模
Explainable AI旨在提高機器學習模型的可解釋性
Google Cloud AI戰(zhàn)略總監(jiān)Tracy Frey在 今天的博客中解釋說，Explainable AI旨在提高機器學習模型的可解釋性
機器學習模型可解釋性的介紹
模型可解釋性方面的研究，在近兩年的科研會議上成為關(guān)注熱點，因為大家不僅僅滿足于模型的效果，更對模型效果的原因產(chǎn)生更多的思考，這...
使用RAPIDS加速實現(xiàn)SHAP的模型可解釋性
模型解釋性 幫助開發(fā)人員和其他利益相關(guān)者理解模型特征和決策的根本原因，從而使流程更加透明。能夠解釋模
人工智能可解釋性規(guī)制面臨的問題分析
在實踐中，人工智能的規(guī)?；瘧?yīng)用推廣，在很大程度上依賴于用戶能否充分理解、合理信任并且有效管理人工智能這一新型伙伴。為此，確保人工智能產(chǎn)品、服務(wù)和系統(tǒng)具有透明性（Transparency）與可解釋性（Explainability）是至關(guān)重要的。
可以提高機器學習模型的可解釋性技術(shù)
本文介紹目前常見的幾種可以提高機器學習模型的可解釋性的技術(shù)，包括它們的相對優(yōu)點和缺點。
小白學解釋性AI：從機器學習到大模型
科學AI需要可解釋性人工智能的崛起，尤其是深度學習的發(fā)展，在眾多領(lǐng)域帶來了令人矚目的進步。然而，伴隨這些進步而來的是一個關(guān)鍵問題——“黑箱”問題。許多人工智能模型，特別是復雜的模型，如
評論