人工智能（AI）的例子無處不在。我們對于 AI 的使用可能超出想象，并且在許多方面將這種使用視為理所當然。智能手機助手就是一個很好的例子，盡管我們可能并不認為這與 AI 有關。許多場景中，我們已經(jīng)習慣于與 Siri 或 Google Assistant 的互動。面部識別也已成為新一代智能手機的標準解鎖功能。

機器學習屬于 AI 的一個子集，原理是通過訓練基于計算機的神經(jīng)網(wǎng)絡模型來識別給定的模型或聲音。在神經(jīng)網(wǎng)絡完成訓練后，就可以推理出結果。例如，如果我們用數(shù)百張狗和貓的圖像訓練神經(jīng)網(wǎng)絡，那么它應該能夠正確地識別圖片中是狗還是貓。網(wǎng)絡模型會確定答案并指示預測的類別概率。

隨著基于機器學習的應用越來越深入日常生活，系統(tǒng)開發(fā)人員已經(jīng)逐漸意識到神經(jīng)網(wǎng)絡當前的運行方式不一定正確。讓我們回到上面的例子，如果我們向神經(jīng)網(wǎng)絡展示一匹馬的圖片，那么僅經(jīng)過貓狗推理訓練的神經(jīng)網(wǎng)絡不得不在已訓練的類別中選擇一個。更令人擔憂的是，神經(jīng)網(wǎng)絡模型給出錯誤預測的概率很高，有時用戶甚至都不會注意到，模型就已經(jīng)無聲無息地失敗了。

然而，人類應對類似情況的方法大不相同，我們會使用更合理的決策方法。我們希望神經(jīng)網(wǎng)絡誠實地回答說它不知道答案，或者從未見過馬的圖像。這看似簡單的例子說明神經(jīng)網(wǎng)絡仍然存在缺陷，難以在充滿突發(fā)情況和不確定性的人類世界中運作。然而，現(xiàn)實情況是，即使在某些情況下會存在這些問題，許多工業(yè)和汽車系統(tǒng)仍在繼續(xù)開發(fā)神經(jīng)網(wǎng)絡。

恩智浦多年來投資構建 AI 功能，并一直在關注神經(jīng)網(wǎng)絡模型的上述缺陷。相較于智能手機助手推斷語音的錯誤，機器學習在工業(yè)或醫(yī)療保健環(huán)境中出現(xiàn)錯誤的危險性要大得多。因此，我們正在為客戶提供先進的機器學習解決方案，并且正持續(xù)研究一種名為“可解釋的 AI”（xAI）的方法。xAI 通過添加更合理的、類似于人的決策方法和額外的確定性維度，擴展了機器學習的推理和計算概率能力。xAI 將 AI 的所有優(yōu)勢與推理機制相結合，使其更接近人類的反應方式。

假設您是自動駕駛汽車的乘客，如果車輛緩慢地行駛，您自然會想知道為什么車輛要如此小心。如果駕駛員是人類，您可能會直接詢問駕駛員為什么汽車行駛速度如此之慢。駕駛員會解釋說，下大雨時能見度很差，他們不確定前面會有什么危險。這一解釋是基于不確定性做出的。xAI 的決策也會遵循類似的行為模式來表達模型推理的不確定性存在于哪些方面。

恩智浦已經(jīng)在研究如何將 xAI 功能整合到我們?yōu)槠?、工業(yè)和醫(yī)療保健系統(tǒng)開發(fā)的機器學習解決方案中。

鑒于史無前例的全球新冠肺炎（COVID-19）大流行，xAI 研究團隊認為，恩智浦 xAI 可能有助于實現(xiàn)對患者疾病的快速檢測。雖然現(xiàn)在研究尚處于初期，但是已有的可行性證據(jù)讓我們深受鼓舞。另外，我們與一些技術領先的醫(yī)院建立了互動，積極了解 xAI 技術對全球面臨的醫(yī)療保健挑戰(zhàn)有何幫助。

除了規(guī)定的 PCR 測試和診斷方案以外，CT 放射和 X 射線影像的使用提供了快速的替代檢測功能。通過適當培訓的 xAI 模型來處理 CT 和 X 射線影像，就能區(qū)分未感染病例和感染病例。xAI 能夠提供實時推理可信度和可解釋的洞察，以幫助臨床人員確定下一步治療方案。

xAI 研究團隊相信他們的推理模型已經(jīng)趨于成熟，目前正在與歐洲和美洲的醫(yī)學和 AI 專家進行討論。但是，為了進一步推動研究，我們必須訪問更大的匿名數(shù)據(jù)集，積極尋求新冠肺炎研究人員和潛在合作伙伴的反饋，共同合作以改進這種檢測技術。如果您想與我們合作使用 xAI 進行新冠肺炎檢測，請聯(lián)系我們的研究團隊。

xAI 使我們能夠在涉及不確定性的情況下，做出更接近人類的反應。它提高了基于概率的決策分類的確定性和可行度。恩智浦在面向汽車、工業(yè)和醫(yī)療保健應用的關鍵安全系統(tǒng)中發(fā)現(xiàn)了 xAI 的機遇。

作者：Lars Reger, 恩智浦資深副總裁兼首席技術官

編輯：hfy