當(dāng)下，嵌入式系統(tǒng)設(shè)計(jì)主要面臨兩個(gè)困難，可將其歸納為：算力的損失和功耗的增加。主要的“罪魁禍?zhǔn)住卑ǎ簲?shù)據(jù)源的涌入（influx），技術(shù)的持續(xù)升級(jí)，系統(tǒng)規(guī)模的縮小以及系統(tǒng)內(nèi)部密度的增加。

高性能嵌入式計(jì)算機(jī)（HPEC）系統(tǒng)已經(jīng)開始在通用圖形處理器單元（GPGPU）上利用專用的并行計(jì)算速度和性能，使系統(tǒng)設(shè)計(jì)人員能夠?qū)⒊錾墓β屎托阅軒雸?jiān)固耐用的小型化設(shè)計(jì)（SFFs）。

GPU加速計(jì)算將圖形處理單元（GPU）與中央處理單元（CPU）結(jié)合在一起，以加速應(yīng)用程序，并將一些計(jì)算密集型任務(wù)從CPU移到到GPU。

這里，需要特別關(guān)注的是，隨著處理要求的不斷提高，主計(jì)算引擎——CPU——最終會(huì)不堪重負(fù)。而GPU已經(jīng)發(fā)展成為一種極其靈活且強(qiáng)大的處理器，并且由于具有改進(jìn)的可編程性、精度和并行處理能力，可以比CPU更好、更快地處理某些計(jì)算任務(wù)。

如果能深入了解GPGPU計(jì)算，包括其強(qiáng)大的功能和局限性，可以幫助設(shè)計(jì)人員為應(yīng)用選擇能提供最佳性能的產(chǎn)品。

下面，我們就來(lái)分析一下關(guān)于GPGPU的11種說(shuō)法和認(rèn)知，看哪些是對(duì)的，哪些是錯(cuò)的。

1.GPGPU只適用于消費(fèi)類電子產(chǎn)品，如游戲中的圖形渲染

這種說(shuō)法不對(duì)。正如過(guò)去幾年所展示的那樣，GPGPU正在重新定義數(shù)據(jù)處理和深度學(xué)習(xí)網(wǎng)絡(luò)方面的能力，以及塑造著其在人工智能領(lǐng)域的形象和期望。且有越來(lái)越多基于GPGPU技術(shù)的軍事和國(guó)防項(xiàng)目在應(yīng)用中部署，包括用于雷達(dá)的先進(jìn)處理能力，圖像識(shí)別，分類，運(yùn)動(dòng)檢測(cè)，編碼等系統(tǒng)。

2.因?yàn)槭恰巴ㄓ玫摹保訥PU不是為處理復(fù)雜的高密度計(jì)算任務(wù)而設(shè)計(jì)的

這種說(shuō)法也是錯(cuò)的。典型的強(qiáng)大RISC或CISC CPU具有數(shù)十個(gè)復(fù)雜核心。GPU具有數(shù)千個(gè)“專用”內(nèi)核，經(jīng)過(guò)優(yōu)化可處理和操作大型數(shù)據(jù)矩陣，如顯示器或輸入設(shè)備和光學(xué)相機(jī)（見圖1）。這些GPU允許應(yīng)用程序在多個(gè)內(nèi)核之間共享算法，并且更容易構(gòu)建和執(zhí)行并行處理。能夠在GPU上創(chuàng)建許多并發(fā)“內(nèi)核” ——每個(gè)“內(nèi)核”負(fù)責(zé)特定計(jì)算的子集——使系統(tǒng)能夠執(zhí)行復(fù)雜的高密度計(jì)算。

圖1：雖然多核CPU能提供增強(qiáng)的處理能力，但基于CUDA的GPU可提供數(shù)千個(gè)并行運(yùn)行，并同時(shí)處理大量數(shù)據(jù)的內(nèi)核。

GPGPU管道在GPU上使用并行處理來(lái)分析數(shù)據(jù)，就好像它是圖像或其他圖形數(shù)據(jù)一樣。雖然GPU在較低頻率下運(yùn)行，但它們通常具有許多核心數(shù)量。因此，與傳統(tǒng)CPU相比，GPU每秒可以處理更多的圖片和圖形數(shù)據(jù)。使用GPU并行管道掃描和分析圖形數(shù)據(jù)可以實(shí)現(xiàn)大幅加速。

3.GPGPU不夠堅(jiān)固，無(wú)法承受如井下監(jiān)測(cè)、移動(dòng)或軍事應(yīng)用等惡劣環(huán)境

錯(cuò)。加固的責(zé)任實(shí)際上是在電路板或系統(tǒng)制造商身上。在惡劣的電子環(huán)境中使用的許多零部件在制造時(shí)并不堅(jiān)固，這方面，GPGPU與其它器件相同。這時(shí)，就需要設(shè)計(jì)可靠系統(tǒng)的知識(shí)發(fā)揮作用了，包括哪種技術(shù)可以最好地減輕環(huán)境危害等因素的影響，并確保系統(tǒng)滿足特定的應(yīng)用要求。

例如， Aitech擁有基于GPGPU的電路板和SFF系統(tǒng)，這些電路板和SFF系統(tǒng)符合許多航空電子設(shè)備，海軍，地面和移動(dòng)應(yīng)用要求，這得益于其數(shù)十年積累起來(lái)的、可用于系統(tǒng)開發(fā)的專業(yè)知識(shí)。

4.當(dāng)處理能力超出系統(tǒng)要求時(shí)，替代方案需要增加功耗（即購(gòu)買功能更強(qiáng)大的硬件）

這種說(shuō)法是對(duì)的。如果用戶試圖避免使用GPGPU，通常會(huì)導(dǎo)致CPU性能不足。為了嘗試解決這個(gè)難題，通常會(huì)增加額外的CPU板，或者現(xiàn)有的板會(huì)超頻，從而導(dǎo)致功耗增加。在大多數(shù)情況下，結(jié)果是降低了CPU頻率性能以及需要降低時(shí)鐘以補(bǔ)償芯片溫度上升。

5.不添加另一個(gè)處理引擎會(huì)增加系統(tǒng)中的復(fù)雜性和集成問(wèn)題嗎？

在短期內(nèi)，也許是這樣，因?yàn)槟枰紤]使用新的尖端技術(shù)的學(xué)習(xí)曲線。但從長(zhǎng)遠(yuǎn)來(lái)看，不是這樣。CUDA已成為圖像處理和算法的事實(shí)上的計(jì)算語(yǔ)言。構(gòu)建CUDA算法后，您可以在支持NVIDIA GPGPU板的任何不同平臺(tái)上“重復(fù)使用”它。將它從一個(gè)平臺(tái)移植到另一個(gè)平臺(tái)很容易，因此，該方法只需要很少的特定硬件，因此更“通用”。

6.由于基于GPGPU的系統(tǒng)處理極大量的數(shù)據(jù)，因此會(huì)增加功耗

不是的。當(dāng)今的GPGPU非常節(jié)能。一些GPGPU板的功耗與CPU板上的功耗相同。GPGPU板可以使用數(shù)千個(gè)CUDA內(nèi)核處理更多的并行數(shù)據(jù)。因此，功率 - 性能比是以非常積極的方式受到影響的因素。

7.在性能和功耗之間仍需要權(quán)衡

是的，這些權(quán)衡總是存在的。更高的性能和更快的吞吐量需要更多的功耗，這是事實(shí)。但這些是您在使用CPU或其它處理器時(shí)，同樣需要面對(duì)的問(wèn)題，無(wú)一例外。

例如，采用“NVIDIA Optimus技術(shù)”時(shí)，由于它是一種計(jì)算機(jī)GPU切換技術(shù)，其中，獨(dú)立GPU處理所有渲染任務(wù)，最終圖像輸出到顯示器仍由RISC處理器及其集成圖形處理器（IGP）處理。實(shí)際上，RISC CPU的IGP僅用作簡(jiǎn)單的顯示控制器，從而實(shí)現(xiàn)無(wú)縫、實(shí)時(shí)、無(wú)閃爍的體驗(yàn)，無(wú)需在GPGPU或共享CPU上承擔(dān)圖像渲染和生成的全部負(fù)擔(dān)所有RISC CPU上的圖像識(shí)別資源。這種負(fù)載共享可使系統(tǒng)更加強(qiáng)大。

當(dāng)運(yùn)行不太關(guān)鍵或要求較低的應(yīng)用程序時(shí)，可以關(guān)閉獨(dú)立GPU。英特爾IGP可處理渲染和顯示調(diào)用，以節(jié)省電量并提供最高的性能功耗比。

8.平衡CPU上的負(fù)載可以通過(guò)簡(jiǎn)單的電路板升級(jí)來(lái)完成，且足以管理系統(tǒng)所需的數(shù)據(jù)處理

錯(cuò)。對(duì)于這種情況，業(yè)界肯定會(huì)采用并行處理，即采用GPU處理，這是有充分理由的。并行處理圖像是GPU最擅長(zhǎng)的。隨著數(shù)據(jù)輸入和攝像機(jī)分辨率的不斷增長(zhǎng)，對(duì)并行處理架構(gòu)的需求將成為常態(tài)，而不是奢侈品。對(duì)于需要同時(shí)捕獲、比較、分析和決策數(shù)百個(gè)圖像的任務(wù)和安全行業(yè)尤其如此（見圖2）。

圖2：隨著數(shù)據(jù)輸入的增加，CPU在處理、負(fù)載平衡和時(shí)鐘要求方面的能力將無(wú)法滿足實(shí)際要求。

9.摩爾定律也適用于GPGPU

是的。有一個(gè)解決方案。NVIDIA目前正在對(duì)多芯片模塊GPU（MCM-GPU）架構(gòu)進(jìn)行原型設(shè)計(jì)，盡管當(dāng)今的集成電路制程工藝升級(jí)越來(lái)越困難，晶體管微縮速度明顯減緩，但該架構(gòu)可實(shí)現(xiàn)持續(xù)的GPU性能擴(kuò)展。

在GTC 2019上，NVIDIA關(guān)于MCM-GPU芯片的討論部分，特別介紹了許多可應(yīng)用于更高級(jí)別計(jì)算系統(tǒng)的技術(shù)，包括mesh網(wǎng)絡(luò)，低延遲信令和可擴(kuò)展的深度學(xué)習(xí)架構(gòu)，以及有機(jī)基板上的die-to-die高效傳輸技術(shù)。

10.學(xué)習(xí)一種全新的編程語(yǔ)言（如CUDA）需要花費(fèi)太多的時(shí)間和金錢投入

實(shí)際上，并不是這樣的。目前，CUDA是事實(shí)上的并行計(jì)算標(biāo)準(zhǔn)語(yǔ)言，且市場(chǎng)上已經(jīng)部署了許多基于CUDA的解決方案，因此，許多算法已經(jīng)移植到了CUDA。NVIDIA有一個(gè)大型的在線論壇，有許多應(yīng)用案例，網(wǎng)絡(luò)培訓(xùn)課程，用戶社區(qū)等。此外，軟件公司愿意幫助設(shè)計(jì)人員完成CUDA的入門。在許多大學(xué)，CUDA現(xiàn)在是編程語(yǔ)言課程的一部分。

學(xué)習(xí)任何新的計(jì)算技術(shù)似乎都會(huì)令人生畏。但是，憑借可用資源和GPGPU技術(shù)的廣闊前景，這是一種非常值得投資的編程語(yǔ)言。

11.嵌入式市場(chǎng)沒(méi)有“工業(yè)級(jí)”GPGPU，特別是SFF，SWaP優(yōu)化系統(tǒng)

錯(cuò)。NVIDIA擁有一套完整的、面向嵌入式市場(chǎng)的“Jetson”產(chǎn)品線（見圖3）。目前包括以下系統(tǒng)模塊（SoM），每個(gè)模塊都采用SFF設(shè)計(jì)，對(duì)其尺寸、重量和功耗都進(jìn)行了優(yōu)化。

TX1

TX2

TX2i：特殊的“工業(yè)”版本，適用于非?！皭毫印钡沫h(huán)境

Xavier

圖3：專為工業(yè)級(jí)和軍用級(jí)應(yīng)用而設(shè)計(jì)的GPGPU，正在重新定義SWaP優(yōu)化和SFF系統(tǒng)的預(yù)期性能。

實(shí)際上，NVIDIA推出了具有更長(zhǎng)生命周期的TX2i模塊，這意味著對(duì)于長(zhǎng)期計(jì)劃（如航空航天、國(guó)防和太空）以及幾種工業(yè)應(yīng)用來(lái)說(shuō)，組件過(guò)時(shí)風(fēng)險(xiǎn)較小。業(yè)界已經(jīng)部署了許多相應(yīng)的軍事和工業(yè)項(xiàng)目以及客戶計(jì)劃，每天都有新的應(yīng)用推出。