什么是硬件加速引擎？

軟件在CPU上執(zhí)行，首先是從控制器從存儲器取指（Fetch），接著控制器進(jìn)行譯碼（Decode），然后由算數(shù)邏輯單元（ALU）執(zhí)行指令（Execute），這就是指令周期，如下圖所示。因此CPU每執(zhí)行一個運(yùn)算，都是一個流水線式調(diào)用計算的過程。普通計算機(jī)用指令運(yùn)算速度衡量計算性能，而超算通常用浮點(diǎn)運(yùn)算速度來衡量其性能。但不管是指令運(yùn)算還是浮點(diǎn)運(yùn)算，在CPU上都是線程的運(yùn)算，并且要耗費(fèi)n個指令周期。線程的機(jī)制決定了運(yùn)算只能按部就班，執(zhí)行完當(dāng)前的操作才能進(jìn)行下一個，所以經(jīng)常電腦會卡住，因?yàn)樾阅懿蛔阋钥焖賵?zhí)行當(dāng)前的運(yùn)算。

想要提高CPU芯片性能，最簡單粗暴的辦法：要么提升主頻，要么增加核數(shù)：

1）提高主頻：當(dāng)前流片的制程限制了主頻，我們一直徘徊在3-5GHz，且進(jìn)一步提高主頻，功耗和散熱也是很大的問題。

2）增加核數(shù)：無限制的增加核數(shù)是一種非常笨拙的辦法 ，并且軟件不好優(yōu)化，同時又受面積、功耗、散熱、成本的制約，芯片良品率也將會進(jìn)一步降低。

除非是云服務(wù)器類芯片等以為追求性能為目標(biāo)，對能耗比不敏感的芯片，否則消費(fèi)類芯片核心競爭力仍以能耗比和性價比為主。這意味著隨著摩爾定律的終結(jié)，我們很難再從通用CPU榨出更多的性能，那么架構(gòu)的演進(jìn)也許才能突破限制——采用硬件加速器引擎（協(xié)處理器），比如采用GPU/DSP/DPU等專用處理單元加速器來完成特定的功能，提升處理的效率。

典型的在2020.11.11，apple在WWDC上發(fā)布了采用自研SOC的全芯Macbook系列產(chǎn)品，使用的就是最新自研的號稱地表最強(qiáng)的M1芯片。該芯片采用了apple的手機(jī)SOC架構(gòu)，由TSMC最新5nm制程工藝代工，集成了8個CPU，8個GPU（128個執(zhí)行單元，可同時執(zhí)行24576個線程，運(yùn)算能力高達(dá)2.6TFLOPS），以及16核的神經(jīng)網(wǎng)絡(luò)加速引擎Neural Engine（即上述所謂DPU，每秒可進(jìn)行11萬億次操作），硬件編解碼核（硬件完成AVS、264/5等制式視頻的編解碼）。

這款地表最強(qiáng)的SOC，在同等功耗下，號稱達(dá)到了2倍目前最快的CPU性能，再次刷新了數(shù)據(jù)。這里的GPU與Neural Engine，硬件編解碼核等，這就我們所謂的硬件加速器。芯片充分利用硬件加速引擎，有效緩解了CPU線程運(yùn)算的壓力。GPU是專用的圖形處理單元，Neural Engine是專用的卷積神經(jīng)網(wǎng)絡(luò)計算單元，硬件編解碼是專用的視頻編解碼處理單元，三者異曲同工，無非就是將原本要用CPU計算的卷積/浮點(diǎn)運(yùn)算進(jìn)行了硬化，采用門電路進(jìn)行并行加速運(yùn)算，而非傳統(tǒng)CPU的指令運(yùn)算流程。

文章出處：【微信公眾號：FPGA自習(xí)室】

責(zé)任編輯：gt