英特爾發(fā)明的混合處理架構(gòu)的人工智能芯片，通過將CPU與模擬內(nèi)存AI處理器相耦合，從而達(dá)到加速神經(jīng)網(wǎng)絡(luò)運算的目的。

英特爾在2019年發(fā)布了兩款Nervana NNP系列新的處理器，目的在于加速人工智能模型的訓(xùn)練。據(jù)悉，英特爾的這兩款芯片是以2016年收購的Nervana Systems命名，在人工智能訓(xùn)練以及數(shù)據(jù)分析等方面有著極大的價值。

而英特爾與英偉達(dá)作為AI芯片競爭的主要成員，均在AI領(lǐng)域奮起發(fā)力，其中，英特爾主導(dǎo)AI推理市場，而英偉達(dá)主導(dǎo)AI訓(xùn)練芯片。

但是用于神經(jīng)網(wǎng)絡(luò)處理的加速器系統(tǒng)，仍然存在著許多問題，例如由于與從存儲器到數(shù)字處理單元的數(shù)據(jù)傳輸?shù)膸捪拗贫鴮?dǎo)致的問題，這些加速器通常需要在片外存儲器和數(shù)字處理單元之間傳輸大量數(shù)據(jù)，而這種數(shù)據(jù)傳輸會導(dǎo)致延遲和功耗的不良增加。

為此，英特爾在2020年7月30日申請了一項名為“混合CPU和模擬內(nèi)存人工智能處理器”的發(fā)明專利（公開號：US 2020/0242458 A1），申請人為英特爾公司，該專利旨在提供用于實現(xiàn)通用處理器的混合處理架構(gòu)的技術(shù)。

根據(jù)該專利目前公開的資料，讓我們一起來看看這項混合處理架構(gòu)的人工智能芯片吧。

如上圖，為這種混合處理器的頂級框圖，可以看到，CPU與模擬內(nèi)存AI處理器相耦合，CPU是通用處理器，例如我們熟知的x86架構(gòu)處理器。模擬存儲器中AI處理器可以通過數(shù)字訪問電路從CPU接收加權(quán)因子和輸入數(shù)據(jù)130，并基于加權(quán)因子和數(shù)據(jù)執(zhí)行模擬神經(jīng)網(wǎng)絡(luò)處理。

模擬內(nèi)存中AI處理器包括多個MN層，可以將它們配置為卷積神經(jīng)網(wǎng)絡(luò)層和全連接層，并且可以任意的組合使用，卷積神經(jīng)網(wǎng)絡(luò)層的處理結(jié)果也可以通過數(shù)字訪問電路提供給CPU作為輸出150。

如上圖，展示了全連接層的網(wǎng)絡(luò)層和該層的矩陣乘法實現(xiàn)，網(wǎng)絡(luò)層接受來自于上一層的輸入230，并將權(quán)重w（220）應(yīng)用于輸入x（230）和輸出x（250）之間的每個連接，由此將網(wǎng)絡(luò)實現(xiàn)為矩陣乘法運算，如260所示，將輸出的每個元素計算為權(quán)重220行與輸入230列之間的點積。

如上圖，為該專利中的模擬內(nèi)存人工智能處理器的框圖，AI處理器用來實現(xiàn)完全連接的單個神經(jīng)網(wǎng)絡(luò)層，其中包括數(shù)字訪問電路310、第一存儲器電路320、第二存儲器電路350、位線處理器電路330、交叉位線處理器電路340以及閾值整流線性單元（ReLU）電路360。

這些電路的作用就是實現(xiàn)各種點乘運算以及模擬乘法運算，這些運算是深度神經(jīng)網(wǎng)絡(luò)中常用的操作，而人工智能芯片就是在硬件的層面上對于這些運算進(jìn)行實現(xiàn)，而直接從硬件層面進(jìn)行運算的好處就在于會更加的快捷以及有較高的效率。

具體而言，交叉位線處理器電路通過定時電容器上的電流積分來執(zhí)行點積運算的模擬乘法部分，該電路實際上是一個與開關(guān)串聯(lián)的電容器。在位線上感測到的電壓作為被乘數(shù)輸入之一，通過與電容器產(chǎn)生電流，另一個被乘數(shù)用來控制串聯(lián)開關(guān)的時序，以使開關(guān)導(dǎo)通的持續(xù)時間與第二個開關(guān)成比例。從而通過電荷累積來執(zhí)行點積運算的模擬求和部分。

最后，是這種用于模擬內(nèi)存中神經(jīng)網(wǎng)絡(luò)處理的方法的流程圖，如上圖所示，可以看出，這種方法包括了多個階段和子過程，分別對應(yīng)著上述的系統(tǒng)架構(gòu)來實現(xiàn)。首先，用于模擬內(nèi)存中神經(jīng)網(wǎng)絡(luò)處理的方法通過數(shù)字訪問電路從CPU中接收輸入數(shù)據(jù)和加權(quán)因子而開始運算。

接著，將輸入數(shù)據(jù)存儲在第一存儲電路中，并將加權(quán)因子存儲在第二存儲電路中，存儲電路用于模擬內(nèi)存計算。其次，由第一存儲電路生成模擬電壓值，有第二存儲電路生成模擬電壓值的第二序列。最后，再由交叉位線處理器計算一系列的模擬點積，從而完成整個運算過程。

以上就是英特爾發(fā)明的混合處理架構(gòu)的人工智能芯片，通過將CPU與模擬內(nèi)存AI處理器相耦合，從而達(dá)到加速神經(jīng)網(wǎng)絡(luò)運算的目的。這種技術(shù)特別適用于AI平臺，例如在智能家居控制系統(tǒng)、機(jī)器人、虛擬助手等方面均可以發(fā)揮重要的作用。

關(guān)于嘉德

深圳市嘉德知識產(chǎn)權(quán)服務(wù)有限公司由曾在華為等世界500強(qiáng)企業(yè)工作多年的知識產(chǎn)權(quán)專家、律師、專利代理人組成，熟悉中歐美知識產(chǎn)權(quán)法律理論和實務(wù)，在全球知識產(chǎn)權(quán)申請、布局、訴訟、許可談判、交易、運營、標(biāo)準(zhǔn)專利協(xié)同創(chuàng)造、專利池建設(shè)、展會知識產(chǎn)權(quán)、跨境電商知識產(chǎn)權(quán)、知識產(chǎn)權(quán)海關(guān)保護(hù)等方面擁有豐富的經(jīng)驗。
責(zé)任編輯:tzh