如今模型越來越大并走向多模態(tài)，還出現(xiàn)了設(shè)備端生成式AI和智能體AI，AI工作負(fù)載不斷增長，邊緣系統(tǒng)需要的已不僅僅是漸進(jìn)式的算力提升，而是專門的加速能力，以實(shí)現(xiàn)實(shí)時(shí)性能、更低功耗、強(qiáng)大的數(shù)據(jù)隱私保護(hù)以及可擴(kuò)展性。Ara240獨(dú)立神經(jīng)處理單元 (DNPU)正是為了滿足這些邊緣AI需求而構(gòu)建。

作為恩智浦首個(gè)獨(dú)立神經(jīng)處理單元 (DPNU)，Ara240提供了AI優(yōu)化的架構(gòu)，擁有高達(dá)40 eTOPS的算力、大容量片上存儲(chǔ)器和高片外帶寬?？偠灾?，它專為運(yùn)行先進(jìn)AI、大語言模型 (LLM)、視覺語言模型 (VLM)、多模態(tài)語言模型以及下一代邊緣推理而打造。

借助Ara240 DNPU帶來的更高性能和效率，將邊緣AI提升至全新高度。探索Ara240 DNPU，并利用Ara生態(tài)合作體系規(guī)劃您的下一個(gè)設(shè)計(jì)，點(diǎn)擊這里>>

無論是設(shè)計(jì)工業(yè)自動(dòng)化系統(tǒng)、自主機(jī)器人、智能基礎(chǔ)設(shè)施、先進(jìn)的人機(jī)接口 (HMI) 平臺(tái)還是邊緣服務(wù)器，Ara240 DNPU都能提供所需的性能余量，直接在邊緣運(yùn)行現(xiàn)代AI工作負(fù)載。

Ara240 DPNU為先進(jìn)的AI應(yīng)用實(shí)現(xiàn)實(shí)時(shí)、設(shè)備端推理

Ara240 DNPU：專為邊緣先進(jìn)AI而設(shè)計(jì)

Ara240 DNPU專為高需求的設(shè)備端AI應(yīng)用而設(shè)計(jì)，在這些應(yīng)用中，延遲、隱私和能效至關(guān)重要。Ara240 DNPU支持廣泛使用的AI模型架構(gòu)——包括卷積神經(jīng)網(wǎng)絡(luò) (CNN)、Transformer、大語言模型 (LLM)、視覺語言模型 (VLM) 和多模態(tài)模型——使開發(fā)人員能夠?qū)⑸墒紸I和高性能AI引入嵌入式系統(tǒng)和邊緣系統(tǒng)，而無需依賴云端計(jì)算。

該DNPU的關(guān)鍵技術(shù)能力包括：

高達(dá)40 eTOPS的等效算力：為主機(jī)處理器分流復(fù)雜的并行AI工作負(fù)載提供高吞吐量

大容量片上存儲(chǔ)器+專用LPDDR4接口 (高達(dá)16GB)：支持更大模型和更高帶寬處理，同時(shí)不增加對(duì)主機(jī)內(nèi)存的爭(zhēng)用

PCIe G4x4和USB 3.2 G1主機(jī)接口：提供靈活、高速的集成

安全啟動(dòng)和硬件信任根：實(shí)現(xiàn)安全的AI管道和受保護(hù)的部署

支持Linux和Windows運(yùn)行時(shí)：為邊緣系統(tǒng)提供廣泛的兼容性

框架支持：包括TensorFlow、PyTorch和ONNX

作為可擴(kuò)展的AI配套處理器，Ara240 DNPU為那些需要在本地執(zhí)行復(fù)雜推理的系統(tǒng)帶來強(qiáng)大的AI加速能力——從而提供更低的延遲、更低的云成本以及更強(qiáng)的數(shù)據(jù)隱私保護(hù)。

Ara240 16GB M.2模塊加速原型設(shè)計(jì)

為幫助開發(fā)人員更快地評(píng)估Ara240 DNPU，恩智浦提供了Ara240 16GB M.2模塊，該模塊可無縫集成到任何帶有MKey PCIe接口的主機(jī)平臺(tái)而設(shè)計(jì)。

模塊亮點(diǎn)包括：

高達(dá)40 eTOPS的AI性能

專有神經(jīng)網(wǎng)絡(luò)處理器，運(yùn)行頻率高達(dá)900MHz

16GB LPDDR4存儲(chǔ)器

M.2 2280 MKey外形尺寸

PCIe G4x1/x2/x4配置

目前支持i.MX 8M Plus和i.MX 95應(yīng)用處理器

該模塊為評(píng)估Ara240性能、加速概念驗(yàn)證開發(fā)以及將高性能AI集成到現(xiàn)有設(shè)計(jì)提供了一條簡(jiǎn)化路徑。Ara240 16GB M.2模塊將于2026年6月開始供貨，您可在恩智浦官網(wǎng)nxp.com和代理商處購買。

Ara240 16GB M.2模塊讓開發(fā)人員能夠更快地基于Ara240進(jìn)行原型設(shè)計(jì)

相得益彰：Ara + i.MX

Ara240 M.2模塊可用作我們i.MX應(yīng)用處理器的AI協(xié)處理器：

i.MX 95應(yīng)用處理器：高性能邊緣計(jì)算平臺(tái)，集成了eIQ Neutron NPU

i.MX 8M Plus應(yīng)用處理器：Arm CortexA53平臺(tái)，內(nèi)置了機(jī)器學(xué)習(xí)和視覺加速能力

未來支持M-Key PCIe的恩智浦平臺(tái)

這種適配性使得目前使用恩智浦MPU的開發(fā)人員能夠輕松地將Ara240 DNPU作為配套加速器，顯著擴(kuò)展AI性能。

緊湊、可擴(kuò)展的Ara240加速器模塊

除了恩智浦Ara240 M.2模塊外，我們的生態(tài)系統(tǒng)合作伙伴也在推出各自基于Ara240的模塊。

這些模塊使客戶能夠在不同的散熱、機(jī)械和性能配置下輕松評(píng)估Ara240 DNPU——支持工業(yè)PC、機(jī)器人系統(tǒng)和緊湊型嵌入式邊緣設(shè)備等應(yīng)用。這些板共同為客戶提供了一條從早期評(píng)估到完整系統(tǒng)設(shè)計(jì)流程的順暢開發(fā)路徑。

賦能物理世界AI的專用軟件

恩智浦eIQ Agentic AI框架擴(kuò)展了eIQ AI軟件開發(fā)環(huán)境，增加了專門設(shè)計(jì)的功能，在邊緣充分利用其DNPU的加速能力。該框架通過協(xié)調(diào)多個(gè)模型 (例如視覺、語言和控制模型)，同時(shí)將推理和決策高效地映射到硬件加速器而非通用CPU上，從而實(shí)現(xiàn)智能體AI工作負(fù)載的確定性、實(shí)時(shí)執(zhí)行。

通過結(jié)合硬件感知型模型準(zhǔn)備、優(yōu)化的編排以及安全的設(shè)備端執(zhí)行，我們的eIQ Agentic AI框架使DNPU能夠?yàn)樽灾魇胶蜕墒紸I工作負(fù)載維持低延遲和可預(yù)測(cè)的性能，在減少對(duì)云端依賴的同時(shí)，簡(jiǎn)化復(fù)雜的多模態(tài)邊緣AI系統(tǒng)的部署。

借助Ara240 DNPU以及不斷壯大的M.2模塊生態(tài)系統(tǒng)，開發(fā)人員可以獲得：

可擴(kuò)展的AI性能

實(shí)時(shí)推理能力

通過本地處理提升隱私保護(hù)

更低的運(yùn)營成本和云成本

支持不斷演進(jìn)的模型架構(gòu)的靈活性

借助Ara240加速邊緣實(shí)時(shí)、設(shè)備端AI處理。Ara240是恩智浦首款DNPU，提供高達(dá)40 eTOPS的算力，配備可擴(kuò)展的內(nèi)存和帶寬。了解更多關(guān)于Ara240 DPNU的詳情，點(diǎn)擊這里>>

本文作者

Bassel Saab，恩智浦半導(dǎo)體資深技術(shù)產(chǎn)品市場(chǎng)經(jīng)理。Bassel擁有法國ESIGELEC工程學(xué)院工程碩士學(xué)位，以及加拿大UQAC大學(xué)計(jì)算機(jī)科學(xué)碩士學(xué)位。他秉持客戶至上的思維理念，曾擔(dān)任半導(dǎo)體行業(yè)售前工程師和高級(jí)AI現(xiàn)場(chǎng)應(yīng)用工程師，積累了豐富的AI專業(yè)能力。