邊緣計算的快速發(fā)展使得計算能力加速向邊緣遷移，AI也逐步從中心節(jié)點向更貼近數(shù)據(jù)源和業(yè)務現(xiàn)場的邊緣側拓展，邊緣與云的關系已經(jīng)呈現(xiàn)出既有分工又彼此合作的局面。在邊緣側，當邊緣智能與邊緣計算和人工智能相結合，能有效地執(zhí)行實時、小數(shù)據(jù)的處理，開展AI模型的推理，并將結果回傳至云端，這種“云—邊—端”協(xié)同的邊緣智能架構，解決了目前AI應用中存在的海量數(shù)據(jù)處理、實時響應以及數(shù)據(jù)安全等問題，為AI在更多行業(yè)的應用奠定了基礎。

邊緣智能：拓展AI應用邊界

邊緣人工智能 (Edge AI) 主要是指在用戶設備上處理人工智能算法。具體來講，Edge AI依靠的是設備自身的硬件來處理與機器學習和深度學習相關的數(shù)據(jù)和過程。Edge AI帶來的好處主要有3個方面：一是減少延遲以改善用戶體驗；二是減少必要的帶寬，從而降低互聯(lián)網(wǎng)服務的成本；三是提高數(shù)據(jù)的安全性和隱私性。

IDC預測，到2025年，全球將有414億臺物聯(lián)網(wǎng)設備，期間將產(chǎn)生73147EB數(shù)據(jù)，其中約四分之一屬于實時生成的。要想完全在云端對這些數(shù)據(jù)進行處理和AI分析很可能超過系統(tǒng)和通信鏈路的處理極限，再加上網(wǎng)絡帶寬、數(shù)據(jù)安全等限制，要實現(xiàn)AI向多行業(yè)的滲透，困難重重。

隨著人工智能向邊緣側的轉移，AI行業(yè)的應用得到了極大擴展。根據(jù)德勤的分析，現(xiàn)在的AI計算已經(jīng)在制造業(yè)、政府、零售、電信、醫(yī)療等不同應用場景下獲得應用。很顯然，邊緣智能在拓展AI邊界過程中發(fā)揮了重要作用，它能顯著提升AI針對現(xiàn)場多樣化業(yè)務場景的適應性，從而更好地支撐業(yè)務運營、為客戶創(chuàng)造更多的價值。

制造業(yè)是國民經(jīng)濟的基礎性產(chǎn)業(yè)，同時也是推動智能化發(fā)展最迫切的行業(yè)之一。根據(jù)IDC的預測，未來幾年，邊緣智能支出在生產(chǎn)過程智能化、智能供應鏈與物流、數(shù)據(jù)安全與合規(guī)等應用場景將保持20%以上的年均復合增長率。以產(chǎn)品質(zhì)檢為例，傳統(tǒng)的產(chǎn)品質(zhì)檢主要依靠人工目視或傳統(tǒng)的基于模式匹配技術的機器視覺，漏檢、誤檢率高。采用Edge AI技術后，不僅顯著提升了機器視覺的檢測能力和適用性，產(chǎn)品質(zhì)量也能得到有效控制。

在智慧城市建設中，AI應用已經(jīng)滲透到城市管理、交通、民生等諸多方面，隨著智慧城市向精細化和社區(qū)化下沉，邊緣智能在智慧交通、應急響應、城市安全等場景下的應用日漸增多。IDC的預測是，在未來幾年，邊緣智能支出在城市運維管理場景這一市場將保持25%的增速。

5G支持的人工智能和創(chuàng)新應用對網(wǎng)絡延遲有很高的要求，邊緣智能在此過程中將發(fā)揮重要作用。比如電信運營商通過建設具備GPU的MEC邊緣數(shù)據(jù)中心，就可以為行業(yè)用戶提供邊緣計算服務，降低企業(yè)自建邊緣計算中心的成本。

對許多應用而言，邊緣側顯然是進行機器學習處理的理想位置。在制造業(yè)、政府、零售、電信、醫(yī)療等重點領域，敏捷聯(lián)接、實時業(yè)務、數(shù)據(jù)優(yōu)化、應用智能、安全與隱私保護已經(jīng)成為核心需求，邊緣智能是實現(xiàn)行業(yè)數(shù)字化轉型的關鍵。隨著邊緣智能技術和解決方案的不斷完善，在汽車、消費電子、服裝、鋼鐵、化工等信息化基礎良好的行業(yè)，AI場景化應用也將逐步落地。IDC的預測是，到2024年，制造業(yè)、政府、零售、電信、醫(yī)療五大行業(yè)在邊緣智能應用上的支出將達到159億美元，占整體邊緣智能市場支出的49%。

邊緣人工智能面臨的挑戰(zhàn)

過去幾年，人工智能正在成為許多組織商業(yè)計劃中不可或缺的一部分。正如谷歌首席執(zhí)行官Sundar Pichai宣稱的那樣，人工智能對人類的影響將遠遠超過火和電。IDC更是看好邊緣計算及邊緣智能在未來幾年的發(fā)展前景，據(jù)其分析，到2024年，全球AI市場支出將達到1100億美金，邊緣智能將占到AI市場支出的29.5%。

良好的發(fā)展前景并非意味著前進道路一片坦途，在Edge AI的發(fā)展過程中，仍存在諸多技術挑戰(zhàn)：

糟糕的數(shù)據(jù)質(zhì)量

全球主要互聯(lián)網(wǎng)服務提供商的數(shù)據(jù)質(zhì)量差是Edge AI研發(fā)的主要障礙。最近的一份Alation報告顯示，以IT公司為主的受訪者中，其中有87%的員工認為，數(shù)據(jù)質(zhì)量差是他們所在企業(yè)未能部署Edge AI基礎設施的重要原因。

潛在的安全威脅

邊緣計算的分散性增加了較多的安全風險。以物聯(lián)網(wǎng)為例，那些提供數(shù)據(jù)的物聯(lián)網(wǎng)設備多且分散，這使得Edge AI基礎設施比較容易受到各種網(wǎng)絡攻擊。

受限的機器學習能力

在邊緣計算硬件平臺上，機器學習常常需要強大的計算能力的支持。在Edge AI基礎設施中，計算性能僅限于邊緣或物聯(lián)網(wǎng)設備的性能。在大多數(shù)情況下，大型復雜的邊緣人工智能模型必須在部署到邊緣人工智能硬件之前進行簡化，這樣才能提高其準確性和效率。

邊緣AI芯片：邊緣智能的靈魂

AI計算極度占用處理器資源，它需要成百上千個不同類型的 (傳統(tǒng)) 芯片來執(zhí)行所需的運算。因此，幾年前的AI計算幾乎都是在數(shù)據(jù)中心、企業(yè)核心設備或電信邊緣處理器上遠程執(zhí)行而不是在設備本地。

Edge AI芯片正在改變這一切。理由是：Edge AI芯片的體積更小，價格相對便宜，耗電量以及產(chǎn)生的熱量也小得多。因此，可以將它們集成到手持設備和機器人等設備中，在本地執(zhí)行密集型人工智能計算。此外，Edge AI芯片還能減少或消除向遠程位置發(fā)送大量數(shù)據(jù)的需要，從而在可用性、速度、數(shù)據(jù)安全性和隱私性方面帶來好處。

利用Edge AI芯片，可極大地增強企業(yè)的自身能力，能夠深入分析來自聯(lián)網(wǎng)設備的數(shù)據(jù)，并將分析結果轉換為行動，同時避免將大量數(shù)據(jù)發(fā)送至云端產(chǎn)生的高昂成本、復雜問題和安全挑戰(zhàn)

根據(jù)德勤的分析數(shù)據(jù)，2020年，Edge AI芯片的銷量預計超過了7.5億片，并創(chuàng)造26億美元的收入。其中，消費類設備市場可能占到Edge AI芯片市場的90%以上。無論是從銷售數(shù)量還是從其美元價值來看，這些Edge AI芯片的絕大多數(shù)將進入高端智能手機領域。在目前使用的所有消費類Edge AI芯片中，智能手機占到70%以上。當然，智能手機并不是唯一使用Edge AI芯片的設備，其他如平板電腦、可穿戴設備、智能音箱也在使用這些芯片，只是目前這些設備對Edge AI芯片銷量影響要比智能手機小得多。

德勤還提出，至2024年，邊緣人工智能芯片銷量預計將超過15億片，甚至可能遠遠超過這一數(shù)據(jù)，年銷量增長率預計達到20%以上，是半導體行業(yè)整體長期預測9%的復合年均增長率的兩倍還多。德勤還指出，雖然消費端的人工智能芯片市場比企業(yè)市場大得多，但增長速度可能低于企業(yè)市場。在企業(yè)市場，機器人、攝像頭、傳感器和其他物聯(lián)網(wǎng)設備中將是AI芯片未來的重要應用場景。

作為邊緣智能的靈魂，Edge AI芯片的重要性不言而喻，邊緣設備只有通過AI芯片獲得了自主計算的能力，才能稱之為是真正的邊緣智能。

現(xiàn)在的AI 芯片主要有兩種，即云端AI芯片和邊緣AI芯片。按照功能劃分，可分為訓練芯片和推斷芯片，市場上的邊緣AI芯片很多屬于邊緣推斷芯片。雖然邊緣AI芯片市場興起時間不長，但參與者眾多，其中包括NVIDIA、Intel、NXP、Xilinx、ST、Maxim等跨國企業(yè)，也有以寒武紀為代表的國內(nèi)企業(yè)。

01 NVIDIA EGX邊緣AI平臺

NVIDIA是全球GPU的龍頭，在AI訓練市場擁有強大的領先優(yōu)勢。面向邊緣計算市場，NVIDIA有兩款性能出眾的EGX邊緣AI平臺產(chǎn)品，一個是用于較大型商業(yè)通用服務器上的EGX A100聚合加速器，另一個是用于微型邊緣服務器的微型EGX Jetson Xavier NX。這兩款產(chǎn)品均擁有安全、高性能的AI處理能力。搭載了EGX A100的服務器可以管理機場中的數(shù)百臺攝像頭，而EGX Jetson Xavier NX則可用于管理便利店中的少量攝像頭。

EGX A100是首個基于NVIDIA Ampere架構的邊緣AI產(chǎn)品。它結合了NVIDIA Ampere架構所具有的突破性計算性能以及NVIDIA Mellanox ConnectX-6 Dx SmartNIC所具備的網(wǎng)絡加速和關鍵性安全功能，能將標準型和專用型的邊緣服務器轉變?yōu)闃O具安全性的云原生AI超級計算機。其中，NVIDIA Ampere架構是NVIDIA的第8代GPU架構，為在邊緣運行AI推理和5G應用等各類計算密集型工作負載提供了卓越的性能。

NVIDIA為EXG建立了龐大的合作伙伴生態(tài)系統(tǒng)，他們中有的是邊緣服務器制造商，有的是混合云平臺企業(yè)，比如Atos、Dell、富士通、GIGABYTE、HPE、IBM、浪潮、聯(lián)想、Cisco等都是NVIDA生態(tài)系統(tǒng)上的重要一員。

02 Xilinx邊緣智能解決方案Versal AI Edge

不久前剛剛并入AMD公司的Xilinx，在過去幾年里一直忙于擴展其Versal AI Core、Versal Premium和Versal Prime芯片系列，以滿足客戶在云、數(shù)據(jù)中心、網(wǎng)絡等領域的計算需求。現(xiàn)在，Xilinx正在將其業(yè)務拓展到蓬勃發(fā)展的邊緣計算市場，并在2021年向業(yè)界介紹了其最新Xilinx Versal AI edge芯片系列中的七款新產(chǎn)品。這七款Versal Edge AI芯片預計將于2022年上半年面世，其目標是幫助客戶實現(xiàn)各種實時工作負載，從自動駕駛汽車到機器人應用、工業(yè)應用、智能視覺系統(tǒng)、醫(yī)療用途、無人駕駛無人機，甚至外科手術機器人。

據(jù)Xilinx的信息，新的Versal AI Edge芯片系列每瓦性能是GPU的4倍，計算密度是其上一代芯片Xilinx Zynq UltraSCALE+MP SOC的10倍，同時還提供了更低的延遲和靈活的體系結構，新的Versal AI Edge系列將采用7nm工藝。所有七款Versal AI Edge芯片均采用雙核Arm Cortex-A72 CPU和雙核Arm Cortex-R5F處理器，以滿足實時應用要求。

Versal AI Edge系列始于VE2002芯片，該芯片耗電6至9瓦，提供14個頂級INT4或7個頂級INT8性能，總內(nèi)存為95MB。其余VE2102、VE2202、VE2302、VE2602、VE2802等5個芯片的功耗、性能、內(nèi)存均按不同梯度升高。VE1752耗電50至60瓦，同時提供166個INT4或124個INT8性能以及253MB內(nèi)存。在內(nèi)部架構上，VE2002包含八個AI/ML引擎塊，VE2101、VE2202、VE2302、VE2602、VE2802依次包含12個、24個、34個、152個、304個引擎塊。VE1752雖然也配備了304個引擎塊，但它們?nèi)渴茿I引擎。

結語

2017年8月，英特爾以153億美元收購了位于特拉維夫的視覺安全技術公司Mobileye。緊接著，百度開始大規(guī)模生產(chǎn)第二代昆侖人工智能芯片，這是一種用于邊緣計算的超快微芯片。在微芯片之外，谷歌的Edge TPU、NVIDIA的Jetson Nano，以及亞馬遜、微軟、英特爾和華碩，均投入到Edge AI芯片的開發(fā)熱潮中，以增強其邊緣計算的實力。其中，亞馬遜的AWS DeepLens是世界上第一款支持深度學習的攝像機。

據(jù)IDC預測，到2024年，全球企業(yè)在邊緣應用上的支出將達到2500億美元，其中與AI技術相關的支出將達到326億美元，占整體邊緣市場支出的13%。十年前，我們可能無法想象Edge AI會達到今天的水平。現(xiàn)在，它已成為行業(yè)乃至客戶服務設備的一部分。

審核編輯：郭婷