電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）不久前，IBM 研究院推出了一款AI處理器，名為人工智能單元（Artificial Intelligent Unit，AIU），這是IBM首個(gè)用于運(yùn)行和訓(xùn)練深度學(xué)習(xí)模型的完整 SoC。IBM聲稱，其比通用CPU工作更快、更高效。

AIU：32個(gè)處理器核心、230億個(gè)晶體管

這款A(yù)IU芯片是IBM研究院AI硬件中心投入五年開(kāi)發(fā)出的結(jié)果，AI硬件中心于2019年啟動(dòng)，專注于開(kāi)發(fā)下一代芯片與AI系統(tǒng)。該中心的目標(biāo)是，計(jì)劃未來(lái)每年將AI硬件效率提升2.5倍。到2029年，將AI模型的訓(xùn)練和運(yùn)行速度拉高1000倍。

據(jù)IBM介紹，該芯片采用5nm制程工藝，共有32個(gè)處理器核心和230億個(gè)晶體管，在設(shè)計(jì)易用性方面，與普通顯卡相當(dāng)，能夠介入任何帶有PCI插槽的計(jì)算機(jī)或服務(wù)器。AIU芯片，旨在支持多種格式并簡(jiǎn)化從圖像識(shí)別到自然語(yǔ)言處理的人工智能工作流程。

AIU芯片與傳統(tǒng)用于訓(xùn)練的GPU芯片有何不同？一直以來(lái)，深度學(xué)習(xí)模型依賴于CPU加GPU協(xié)處理器的組合進(jìn)行訓(xùn)練與運(yùn)行。GPU最初是為沉浸圖形圖像而開(kāi)發(fā)，后來(lái)人們發(fā)現(xiàn)其在AI領(lǐng)域有著顯著優(yōu)勢(shì)，因此GPU在AI訓(xùn)練領(lǐng)域占據(jù)了非常重要的位置。

IBM開(kāi)發(fā)的AIU并非圖形處理器，它是專為深度學(xué)習(xí)模型加速設(shè)計(jì)的，針對(duì)矩陣和矢量計(jì)算進(jìn)行了優(yōu)化。AIU能夠解決高復(fù)雜計(jì)算問(wèn)題，并以遠(yuǎn)超CPU的速度執(zhí)行數(shù)據(jù)分析。

AIU芯片有何特點(diǎn)呢？過(guò)去這些年，AI與深度學(xué)習(xí)模型在各行各業(yè)中快速普及，同時(shí)深度學(xué)習(xí)的發(fā)展也給算力資源帶來(lái)了巨大的壓力。深度學(xué)習(xí)模型的體量越來(lái)越大，包含數(shù)十億甚至數(shù)萬(wàn)億個(gè)參數(shù)。而硬件效率的發(fā)展卻似乎跟不上深度學(xué)習(xí)模型的增長(zhǎng)速度。

過(guò)去，計(jì)算一般集中在高精度64位與32位浮點(diǎn)運(yùn)算層面。IBM認(rèn)為，有些計(jì)算任務(wù)并不需要這樣的精度，于是提出了降低傳統(tǒng)計(jì)算精度的新術(shù)語(yǔ)——近似計(jì)算。

如何理解呢？IBM認(rèn)為對(duì)于常見(jiàn)的深度學(xué)習(xí)任務(wù)，其實(shí)并不需要那么高的計(jì)算精度，就比如說(shuō)人類大腦，即使沒(méi)有高分辨率，也能夠分辨出家人或者小貓。也就是說(shuō)各種任務(wù)，其實(shí)都可以通過(guò)近似計(jì)算來(lái)處理。

在AIU芯片的設(shè)計(jì)中，近似計(jì)算發(fā)揮著重要作用。IBM研究人員設(shè)計(jì)的AIU芯片精度低于CPU，而這種較低精度也讓新型AIU硬件加速器獲得了更高的計(jì)算密度。IBM使用混合8位浮點(diǎn)（HFP）計(jì)算，而非AI訓(xùn)練中常見(jiàn)的32位或16點(diǎn)浮點(diǎn)計(jì)算。由于精度較低，因此該芯片的運(yùn)算執(zhí)行速度可達(dá)到FP16的2倍，同時(shí)繼續(xù)保持類似的訓(xùn)練效能。

IBM在AI芯片技術(shù)上的不斷升級(jí)

在去年2月的國(guó)際固態(tài)電路會(huì)議（ISSCC 2021）上，IBM也曾發(fā)布過(guò)一款性能優(yōu)異的AI芯片，據(jù)IBM稱它是當(dāng)時(shí)全球首款高能效AI芯片，采用7nm制程工藝，可達(dá)到80%以上的訓(xùn)練利用率和60%以上的推理利用率，而通常情況下，GPU的利用率在30%以下。

有對(duì)比數(shù)據(jù)顯示，IBM 7nm高能效AI芯片的性能和能效，不同程度地超過(guò)了IBM此前推出的14nm芯片、韓國(guó)科學(xué)院（KAIST）推出的65nm芯片、平頭哥推出的12nm芯片含光800、NVIDIA推出的7nm芯片A100、聯(lián)發(fā)科推出的7nm芯片。

IBM去年推出的這款7nm AI芯片支持fp8、fp16、fp32、int4、int2混合精度。在fp32和fp8精度下，這款芯片每秒浮點(diǎn)運(yùn)算次數(shù)分別達(dá)到16TFLOPS和25.6TFLOPS，能效比為3.5TFLOPS/W和1.9TFLOPS。而被業(yè)界高度認(rèn)可的NVIDIA A100 GPU在fp16精度下的能效比為0.78TFLOPS/W，低于IBM這款高能效AI芯片。

IBM在官網(wǎng)中稱，這款A(yù)I芯片之所以能夠兼顧能效和性能，是因?yàn)樵撔酒С殖途然旌?位浮點(diǎn)格式（(HFP8，hybrid FP8）。這是IBM于2019年發(fā)布的一種高度優(yōu)化設(shè)計(jì)，允許AI芯片在低精度下完成訓(xùn)練任務(wù)和不同AI模型的推理任務(wù)，同時(shí)避免任何質(zhì)量損失。

可以看到IBM此次發(fā)布的新款A(yù)IU與去年2月發(fā)布的7nm AI芯片，都采用了IBM此前提出的近似計(jì)算。從性能來(lái)看，去年推出的那款A(yù)I芯片一定程度上甚至超過(guò)了目前業(yè)界訓(xùn)練場(chǎng)景普遍使用的NVIDIA A100 GPU，而今年新推出的AIU無(wú)論是在制程工藝、晶體管數(shù)量上都有升級(jí)，可想而知性能水平將會(huì)更高。