在廣義上，計算的歷史是對理想系統(tǒng)架構(gòu)的不斷搜索。在過去的幾十年中，系統(tǒng)架構(gòu)師不斷地從集中式配置中來回移動，其中計算資源位于遠離用戶的分布式體系結(jié)構(gòu)中，其中處理資源更靠近個人用戶。

早期的系統(tǒng)使用高度集中式的模型來向遍布企業(yè)的用戶提供增加的計算能力和存儲能力。在20世紀(jì)80年代和90年代，這些集中式架構(gòu)讓位給低成本PC的興起和LAN的出現(xiàn)，然后因特網(wǎng)連接起來。在這個新的模型中，計算任務(wù)越來越多地委托給個人PC。

隨著筆記本電腦、平板電腦和智能手機的興起，這種高度分布式的架構(gòu)最終演變成了移動性。但是隨著計算需求的增加，系統(tǒng)架構(gòu)師開始將任務(wù)移動到云，在那里他們可以利用其幾乎無限的計算和存儲資源，高可靠性和低成本。因此，近年來，組織開始轉(zhuǎn)向圍繞云構(gòu)建的更加集中的方法。例如，智能手機把所有的東西都送回云中進行處理和存儲。當(dāng)需要數(shù)據(jù)時，然后將其返回到設(shè)備。

因此，云是當(dāng)今企業(yè)進行高級計算和分析的地方。公司使用云來運行像Oracle那樣的企業(yè)級應(yīng)用程序，然后使用PC來解釋和分析結(jié)果。隨著企業(yè)采用機器學(xué)習(xí)技術(shù)并采用更高水平的人工智能，云計算資源可能會在每個組織中扮演越來越重要的角色。今天，云計算提供了強大的優(yōu)勢。它允許組織簡化資本支出，并管理與IT基礎(chǔ)設(shè)施相關(guān)的運營和維護成本。每個智能工廠都需要這些資源來管理多個機器視覺系統(tǒng)，每個智能城市都需要云來協(xié)調(diào)管理交通模式的交通燈，并優(yōu)化數(shù)千個路燈的功率效率。

邊緣的人工智能

然而，并非所有的應(yīng)用程序都會從云中運行。事實上，隨著設(shè)計師向邊緣運行的應(yīng)用程序增加越來越高的智能水平，他們將需要更快速地響應(yīng)不斷變化的環(huán)境條件。例如，當(dāng)一輛自主車進入一個智能城市時，它就迫不及待地與云溝通，以確定交通燈是紅色時是否停車。它必須立即采取行動。類似地，當(dāng)智能家居中的安全系統(tǒng)檢測到房屋內(nèi)的移動時，它必須依靠其設(shè)備上的資源來檢測該移動是否是闖入房屋的竊賊或只是家庭狗。

這需要獨立和快速地做出決定，將定義一類新的邊緣智能設(shè)備。使用諸如語音或面部識別等技術(shù)，這些新設(shè)備將能夠在環(huán)境變化的情況下定制它們的功能。并且，通過應(yīng)用機器學(xué)習(xí)和人工智能技術(shù)，這些設(shè)備將能夠基于不斷收集的數(shù)據(jù)來學(xué)習(xí)和改變它們的操作。

但是，它們?nèi)绾闻c云工作，將大大不同于專門使用云來處理和存儲的智能系統(tǒng)。機器學(xué)習(xí)通常涉及兩種類型的計算工作負載。在訓(xùn)練中，系統(tǒng)從現(xiàn)有數(shù)據(jù)中學(xué)習(xí)新的能力。例如，系統(tǒng)通過收集和分析數(shù)以千計的人臉圖像來學(xué)習(xí)面部識別能力。因此，訓(xùn)練是計算密集型的，并且需要能夠處理大量數(shù)據(jù)的硬件。第二種類型的工作量，推斷，通過識別模式和執(zhí)行任務(wù)，將系統(tǒng)的能力應(yīng)用到新的數(shù)據(jù)。這允許系統(tǒng)隨著時間的推移學(xué)習(xí)并增加他們的智能，他們運行的時間越長。在邊緣上運行的系統(tǒng)不可能在云上進行推理。相反，他們需要利用車載計算資源來不斷擴展他們的智能。

這個市場機會的范圍很難夸大。潛在的應(yīng)用范圍從消費者應(yīng)用，如智能電視，可以感覺到當(dāng)用戶離開房間并自動關(guān)機，下一代機器視覺解決方案的目標(biāo)是在未來的智能工廠。顯然，邊緣計算解決方案最熱門的市場之一是汽車行業(yè)。汽車從一個主要機械設(shè)備迅速發(fā)展到一個日益電子化的平臺，推動了這一轉(zhuǎn)變。這一過程始于娛樂系統(tǒng)從無線電和磁帶平臺向高度復(fù)雜的信息娛樂系統(tǒng)的快速演變。它一直伴隨著先進的駕駛員輔助系統(tǒng)（ADAS）的出現(xiàn)，旨在提高安全性。例如，研究和市場公司的分析師現(xiàn)在預(yù)測，ADAS市場將在2016和2021年間以10.44%的復(fù)合年增長率增長。

移動市場的最新進展有助于加速這種變化。智能手機為汽車帶來了新的功能和應(yīng)用，移動處理器和標(biāo)準(zhǔn)化的MIPI接口的發(fā)展有助于降低將這些能力整合到汽車中的成本。如今，先進的汽車娛樂系統(tǒng)提供信息和娛樂，而ADAS解決方案帶來了廣泛的安全功能，包括自動制動、車道檢測、盲點檢測和自動平行停車功能。

為了使這成為可能，今天的汽車將越來越多的視覺系統(tǒng)集成到汽車內(nèi)，以監(jiān)控汽車內(nèi)部的駕駛員以及道路狀況。這些嵌入式視覺系統(tǒng)跟蹤駕駛員的頭部和身體移動以指示困倦或分心，以及擴大的外部攝像機數(shù)量以支持自動停車和倒車輔助、盲點檢測、交通標(biāo)志監(jiān)視和避碰。車道偏離預(yù)警系統(tǒng)等新的應(yīng)用將視頻輸入與車道檢測算法相結(jié)合，以確定車輛在道路上的位置。因此，汽車制造商正在整合每輛車的許多攝像頭。為了建立這些新的ADAS能力，設(shè)計者預(yù)期他們將需要面向前方的攝像機，用于緊急制動、車道檢測、行人檢測和交通標(biāo)志識別以及側(cè)向和后向攝像機，以支持盲點檢測、泊車輔助和交叉交通警報F。法令。

在制造這些系統(tǒng)時，汽車制造商面臨的一個限制是有限的I/O。通常，處理器今天具有兩個相機接口。然而，許多ADAS系統(tǒng)需要多達八個相機以滿足圖像質(zhì)量要求。理想情況下，設(shè)計者可以使用一種解決方案，使它們能夠協(xié)同處理來自多個攝像機的多個視頻流，或者在將數(shù)據(jù)傳遞給應(yīng)用程序PRO之前對攝像機輸入執(zhí)行各種圖像處理功能。

上面的框圖描述了一個開發(fā)者如何使用一個ECP5 FPGA來生成一個鳥瞰子系統(tǒng)（見下文），之前使用多ARM處理器來實現(xiàn)。

歷史上，設(shè)計者使用單個處理器來驅(qū)動每個顯示器?，F(xiàn)在設(shè)計者可以使用單個FPGA來替換多個處理器，聚集來自每個相機的所有傳入數(shù)據(jù)，將圖像拼接在一起，執(zhí)行前處理和后處理，并將圖像發(fā)送到系統(tǒng)處理器，如下所示：

一個典型的鳥瞰圖從多個相機的數(shù)據(jù)聚集。

這些新的視覺和傳感器能力為自主汽車的引入奠定了基礎(chǔ)。例如，凱迪拉克今年將推出超級巡航，這是業(yè)界第一個免提駕駛應(yīng)用之一。這種新技術(shù)承諾通過連續(xù)地分析駕駛員和道路，使駕駛員更安全，而精密激光雷達數(shù)據(jù)庫提供道路細節(jié)和先進的攝像機、傳感器和GPS實時地對動態(tài)道路狀況作出反應(yīng)。

智能工廠

在工業(yè)領(lǐng)域，AI和邊緣應(yīng)用有望在智能工廠的發(fā)展中發(fā)揮越來越重要的作用。在2011率先提出的工業(yè)4模式的推動下，下一代智能工廠將將先進的機器人技術(shù)、機器學(xué)習(xí)技術(shù)應(yīng)用于軟件服務(wù)和工業(yè)物聯(lián)網(wǎng)（IIOT），以提高組織和最大化生產(chǎn)率。

雖然工業(yè)1.0標(biāo)志著將水和蒸汽動力機械引入制造業(yè)，但工業(yè)2反映了由制造商的計算機和自動化集成定義的電力大規(guī)模生產(chǎn)技術(shù)的運動。即將到來的工業(yè)4模型將引入網(wǎng)絡(luò)物理系統(tǒng)制造，以監(jiān)控智能工廠中的物理過程，并利用人工智能資源進行分散決策。通過引入諸如大數(shù)據(jù)和分析的組件、IT和IOT的融合、機器人技術(shù)的最新進展和數(shù)字供應(yīng)鏈的演進，這一演進將推動該行業(yè)的數(shù)字化轉(zhuǎn)型。此外，通過不斷地與人類和操作員進行通信，這些物理系統(tǒng)將成為IIOT的一部分。

智能工業(yè)4.0工廠如何與當(dāng)前工廠不同？它將提供幾乎通用的互操作性和更高級別的機器、設(shè)備、傳感器和人之間的通信。其次，它將高度重視信息透明，其中系統(tǒng)通過傳感器數(shù)據(jù)向上下文化的信息創(chuàng)建物理世界的虛擬副本。此外，智能工廠的決策將高度分散，允許網(wǎng)絡(luò)物理系統(tǒng)盡可能自主地運行。最后，該工廠的新發(fā)展將具有高水平的技術(shù)援助，其中系統(tǒng)將能夠幫助彼此解決問題、做出決定并幫助人類完成可能是高度困難或危險的任務(wù)。

不同需要

設(shè)計師需要把這些新的人工智能能力帶到什么邊緣？傳統(tǒng)上，在數(shù)據(jù)中心采用深度學(xué)習(xí)技術(shù)的設(shè)計者嚴(yán)重依賴高性能GPU以滿足苛刻的計算需求。設(shè)計師把AI推向邊緣并沒有那么奢侈。他們需要計算效率高的系統(tǒng)，可以滿足精確的目標(biāo)，同時符合嚴(yán)格的功率和足跡限制，通常發(fā)現(xiàn)在消費市場。

無論開發(fā)人員正在為智能家居構(gòu)建安全系統(tǒng)、智能城市的自動化照明系統(tǒng)、為下一代汽車提供自主駕駛解決方案或為智能工廠提供智能視覺系統(tǒng)，它們都需要能夠處理高清的性價比高的計算引擎。實時數(shù)字視頻流。他們還需要高容量固態(tài)存儲，智能相機或傳感器和先進的分析算法。

通常，這些系統(tǒng)中的處理器必須執(zhí)行從圖像采集和透鏡校正到圖像處理和分割的各種任務(wù)。在一些應(yīng)用中，設(shè)計者可以使用各種各樣的處理器類型，從微控制器、圖形處理單元（GPU）和數(shù)字信號處理器（DSP）到現(xiàn)場可編程門陣列（FPGA）和特定于應(yīng)用程序的標(biāo)準(zhǔn)處理器（ASSP）以滿足這些要求。每個處理器體系結(jié)構(gòu)都有其獨特的優(yōu)點和缺點。在某些情況下，設(shè)計者將多個處理器類型組合成異構(gòu)計算環(huán)境。在其他情況下，它們可以將多個處理器類型集成到單個設(shè)備中。

需求越來越多的解決方案，利用應(yīng)用程序支持和制造規(guī)模與移動處理器和MIPI兼容的傳感器和顯示器，并采用人工智能，機器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，使智能的邊緣。神經(jīng)網(wǎng)絡(luò)在機器學(xué)習(xí)中的應(yīng)用，如圖像識別，可能需要兆字節(jié)的數(shù)據(jù)和計算能力的外顯子來開發(fā)數(shù)據(jù)結(jié)構(gòu)并分配權(quán)重。因此，對于這些應(yīng)用程序的機器學(xué)習(xí)通常在數(shù)據(jù)中心發(fā)生并不奇怪。

一旦模型被訓(xùn)練并移植到嵌入式系統(tǒng)，設(shè)備就必須更快更有效地做出決策。在大多數(shù)情況下，設(shè)計者需要一種將計算效率與低功率和小足跡結(jié)合起來的解決方案。

業(yè)界普遍認可機器學(xué)習(xí)需要高度專業(yè)化的硬件加速。但是根據(jù)任務(wù)的不同，需求是很大的。例如，用于訓(xùn)練應(yīng)用的硬件設(shè)計者專注于使用32位浮點運算的高精確度的高水平計算。在網(wǎng)絡(luò)邊緣，執(zhí)行推理的設(shè)計者更傾向于犧牲精度，以提高處理速度或降低功耗。在某些情況下，使用定點計算的應(yīng)用可以在消耗更少功率的情況下向浮點應(yīng)用提供幾乎相同的推理精度。

在這種情況下，使用ECP5 FPGA實現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)加速器在邊緣上的面部識別應(yīng)用。

在某些情況下，支持這種類型的設(shè)計靈活性的處理器在這些類型的應(yīng)用中提供了明顯的優(yōu)點。例如，F(xiàn)PGAs將廣泛的嵌入式DSP資源和高度并行的架構(gòu)結(jié)合起來，在功率、足跡和成本方面具有競爭優(yōu)勢。點陣半導(dǎo)體的ECP5 FPGA中的DSP塊可以使用浮點數(shù)學(xué)來計算比GPU更少的功率/ MHz的定點數(shù)學(xué)。

同時，神經(jīng)網(wǎng)絡(luò)的產(chǎn)業(yè)研究也在不斷推進。最近，格子半導(dǎo)體與高性能軟核處理器的開發(fā)人員合作，為嵌入式應(yīng)用開發(fā)基于神經(jīng)網(wǎng)絡(luò)的推理解決方案，用于面部檢測應(yīng)用。解決方案是在小于5000的LUTS的ICE405K FPGA。使用開源的RISC-V處理器與定制加速器，這種設(shè)置大大降低了功耗，同時縮短了響應(yīng)時間。

結(jié)論

邊緣計算給基于人工智能的系統(tǒng)的開發(fā)者帶來了下一個巨大的挑戰(zhàn)。隨著設(shè)計師增加更高層次的智能，需求將增長的解決方案，可以更快速和準(zhǔn)確地響應(yīng)不斷變化的環(huán)境條件。尋找開發(fā)人員采用廣泛的技術(shù)來滿足這一新的需求。