作者：小巖

編輯：彩云

根據(jù)財(cái)聯(lián)社消息，11月28日，比爾·蓋茨針對(duì)AI未來的發(fā)展趨勢(shì)發(fā)表了自己的看法。他認(rèn)為，當(dāng)下生成式AI的發(fā)展已經(jīng)達(dá)到了極限，很難再有突破性的進(jìn)展。下一個(gè)AI發(fā)展的賽道，很可能是可解釋AI。比爾.蓋茨預(yù)測，未來10年（2030年-2039年），AI領(lǐng)域的主角將成為可解釋AI。

大部分人預(yù)判：GPT-5將明顯優(yōu)于GPT-4，成為生成式AI領(lǐng)域天花板。

盡管OpenAI還沒有對(duì)外界公布GPT-5的確切上線時(shí)間，甚至還曾遭到馬斯克等人的反對(duì)，被其“聯(lián)名上書”，認(rèn)為“GPT -5不應(yīng)該問世”。但有一點(diǎn)毋庸置疑，如今的大模型GPT-4已經(jīng)達(dá)到了行業(yè)領(lǐng)先的水準(zhǔn)，眾人難望其項(xiàng)背。而它距離上一代的GPT-3.5上線，只經(jīng)歷了很短的時(shí)間，所以，我們有理由相信，一旦GPT-5成功面世，它的優(yōu)勢(shì)將明顯大于GPT。這也是比爾.蓋茨認(rèn)為生成式AI再難有突破的重要原因。

當(dāng)然不可否認(rèn)，生成式AI公司在最近取得了飛速發(fā)展。根據(jù)PitchBook為彭博社收集的數(shù)據(jù)，僅第3季度，全球AI公司的融資價(jià)值同比增長27 %，達(dá)到179億美元。這表明了投資者對(duì)于AI技術(shù)，特別是當(dāng)下發(fā)展正夯的生成式AI，持有相信和樂觀態(tài)度。而且，這種“一片向好”的態(tài)勢(shì)不光出現(xiàn)在國際上，中國自己的生成式AI行業(yè)也在這一年得到了迅速發(fā)展，這其中涵蓋了語言模型，圖像生成，文學(xué)創(chuàng)作，音樂創(chuàng)作，游戲開發(fā)等多個(gè)領(lǐng)域。

隨著大模型在AI領(lǐng)域取得了重大突破，未來算力將變得更加廉價(jià)，也會(huì)在多個(gè)領(lǐng)域取得顯著成果，從而推動(dòng)國內(nèi)的產(chǎn)業(yè)升級(jí)和創(chuàng)新發(fā)展。當(dāng)然，在這個(gè)過程中，大型模型會(huì)逐漸減少，應(yīng)用則會(huì)愈發(fā)增多。

不過，各大企業(yè)在享受AI飛速發(fā)展的紅利的同時(shí)，也不得不面對(duì)激烈的市場競爭。為了在市場上分得一杯羹，各企業(yè)傾向通過橫向并購的方式來擴(kuò)大市場份額，從而提升地位。而AI大模型的研發(fā)，數(shù)據(jù)收集，數(shù)據(jù)驗(yàn)證也需要有大量的資金來做支撐。此時(shí)，就要考驗(yàn)企業(yè)是否具有“鈔能力”了。

可解釋AI即將登場！它為何有可能引領(lǐng)下一個(gè)AI風(fēng)潮？

那么，為什么可解釋AI會(huì)備受比爾.蓋茨的推崇？

在人類歷史上，技術(shù)進(jìn)步，生產(chǎn)關(guān)系邏輯，倫理法規(guī)的發(fā)展是動(dòng)態(tài)演進(jìn)的。當(dāng)一種新的技術(shù)在實(shí)驗(yàn)室獲得突破后，它所能帶來的價(jià)值生產(chǎn)方式勢(shì)必會(huì)對(duì)商品形態(tài)和生產(chǎn)關(guān)系等帶來沖擊。當(dāng)新技術(shù)帶來的價(jià)值被認(rèn)可，商業(yè)邏輯會(huì)逐步形成，同時(shí)適配全新的倫理法規(guī)。

近10年來，借由算力與數(shù)據(jù)規(guī)模的性價(jià)比突破臨界點(diǎn)，以深度神經(jīng)網(wǎng)絡(luò)為代表的聯(lián)結(jié)主義模型架構(gòu)及統(tǒng)計(jì)學(xué)習(xí)范式（簡稱深度學(xué)習(xí)）在特征表征能力上取得了跨越級(jí)別的突破，大大推動(dòng)了人工智能的發(fā)展，在很多場景中達(dá)到令人難以置信的效果（譬如人臉識(shí)別準(zhǔn)確率達(dá)到97 %以上；谷歌智能語音助手的回答正確率高達(dá)90 %以上等，都是典型案例） 。

不過，當(dāng)學(xué)習(xí)不斷深入，問題也隨之產(chǎn)生。當(dāng)“深度學(xué)習(xí)商業(yè)化運(yùn)用”觸及到某些對(duì)技術(shù)敏感，或者與人的生存和安全關(guān)系緊密的領(lǐng)域時(shí)，諸如自動(dòng)駕駛，金融，醫(yī)療和司法等高風(fēng)險(xiǎn)應(yīng)用場景，原有的商業(yè)邏輯在進(jìn)行技術(shù)更替的過程中就會(huì)遇到阻力，從而導(dǎo)致商業(yè)化速度的減緩甚至失敗。

究其原因，是因?yàn)檫@些敏感領(lǐng)域會(huì)涉及到社會(huì)道德和倫理法規(guī)的問題。對(duì)于這些，我們?nèi)祟惪梢栽诘谝粫r(shí)間給予清晰的分辨，溯源和問責(zé)?？蛇@些深度學(xué)習(xí)的商業(yè)體，從本質(zhì)上說，就是一個(gè)黑盒，無法從模型的結(jié)構(gòu)或權(quán)重中獲取模型行為的任何信息，從而導(dǎo)致AI在業(yè)務(wù)應(yīng)用中遇到技術(shù)和結(jié)構(gòu)上的困難。

讓我們舉2個(gè)例子來進(jìn)行一下說明。譬如在金融風(fēng)控的場景里，通過深度學(xué)習(xí)，模型識(shí)別出來小部分用戶有欺詐嫌疑，但是業(yè)務(wù)部門不敢直接使用這個(gè)結(jié)果進(jìn)行處理。因?yàn)檎麄€(gè)業(yè)務(wù)部門都不知道結(jié)果是如何得來的，并且無法判斷得出的結(jié)果是否正確，整個(gè)過程也都缺乏明確的證據(jù)。再比如說在醫(yī)療使用場景里，深度學(xué)習(xí)模型根據(jù)患者的檢測數(shù)據(jù)，判斷患者有肺結(jié)核。但是醫(yī)生不知道診斷結(jié)果是怎么來的，不敢直接采用，只能根據(jù)自己的經(jīng)驗(yàn)，仔細(xì)查看相關(guān)檢測數(shù)據(jù)，給出自己的判斷。

由此可見，“黑盒”的形態(tài)會(huì)嚴(yán)重影響模型在實(shí)際場景的應(yīng)用和推廣。要解決模型的這些問題，就需要打開黑盒模型，透明化模型構(gòu)建過程和推理機(jī)理，而可解釋AI就是實(shí)現(xiàn)模型透明化的有效技術(shù)。

可解釋AI：一套面向機(jī)器學(xué)習(xí)（主要是深度神經(jīng)網(wǎng)絡(luò)）技術(shù)合集。

所謂可解釋AI，英文是explainable AI(XAI)。目前，無論學(xué)術(shù)界還是工業(yè)界，對(duì)于可解釋AI都沒有一個(gè)統(tǒng)一的定義。我們?cè)谶@里為大家介紹3個(gè)廣為流行的解釋。

第一個(gè)解釋，是希望尋求對(duì)模型工作機(jī)理的直接理解，打破人工智能的黑盒子。第二個(gè)解釋，是為AI算法所做出的決策提供人類可讀的以及可理解的解釋。都三個(gè)解釋，是確保人類可以輕松理解和信任人工智能代理做出的決策的一組方法。

由此可見，對(duì)于黑盒模型的理解，是可解釋AI的關(guān)鍵。

MindSpore團(tuán)隊(duì)根據(jù)自身的實(shí)踐經(jīng)驗(yàn)和理解，將可解釋AI定義為：一套面向機(jī)器學(xué)習(xí)（主要是深度神經(jīng)網(wǎng)絡(luò)）的技術(shù)合集，包括可視化，數(shù)據(jù)挖掘，邏輯推理，知識(shí)圖譜等。

有了可解釋AI的介入，用戶就可以知道AI系統(tǒng)為什么要這樣做，也知道AI系統(tǒng)為什么不這樣做；可以知道AI系統(tǒng)什么時(shí)候可以成功，什么時(shí)候失??；可以知道什么時(shí)候可以信任AI系統(tǒng)；更可以知道AI系統(tǒng)為什么做錯(cuò)了。

目前，OpenAI的產(chǎn)品還沒有辦法實(shí)現(xiàn)完全盈利。本身ChatGPT并不做商業(yè)用途，而且在運(yùn)營過程中，需要應(yīng)對(duì)各項(xiàng)成本支出（培訓(xùn)，微調(diào)，人員工資等），再加上GPT-5的訓(xùn)練時(shí)間極有可能拉長，OpenAI未來要面臨的挑戰(zhàn)異常嚴(yán)峻。

此時(shí)，如果能跳脫出生成式AI的圈子，另辟蹊徑，進(jìn)入下一個(gè)發(fā)展階段，未嘗不是一個(gè)適合的出路。

審核編輯 黃宇