電子發(fā)燒友網(wǎng)報道（文/吳子鵬）當前，全球端側AI市場正呈現(xiàn)爆發(fā)式增長。根據(jù)弗若斯特沙利文的統(tǒng)計數(shù)據(jù)，全球端側AI市場規(guī)模預計將從2024年的3219億元增長至2029年的12230億元，復合年增長率高達39.6%。然而，當大模型從云端向端側滲透，算力瓶頸、能效矛盾、開發(fā)門檻成為制約端側AI行業(yè)前進的三重枷鎖。

為幫助行業(yè)破解這一難題，國內領先的芯片IP設計與服務提供商安謀科技（中國）有限公司（以下簡稱“安謀科技Arm China”）于近日正式發(fā)布了新一代NPU IP——“周易”X3。該產(chǎn)品采用專為大模型打造的最新DSP+DSA架構，不僅聚焦硬件性能的飛躍，更通過軟硬協(xié)同與生態(tài)開放，重新定義了端側AI計算效率，為基礎設施、智能汽車、移動終端、智能物聯(lián)網(wǎng)四大領域帶來前所未有的AI計算體驗。

安謀科技Arm China產(chǎn)品研發(fā)副總裁劉浩表示：“在‘All in AI’產(chǎn)品戰(zhàn)略的指引下，我們將持續(xù)加大投入，以前瞻性視野整合頂尖研發(fā)資源，秉持開放合作理念，為生態(tài)伙伴提供業(yè)界領先的從硬件、軟件到服務的端到端解決方案，全力賦能伙伴的產(chǎn)品創(chuàng)新和商業(yè)化落地?！?br />

技術突破：DSP+DSA架構實現(xiàn)端側AI計算效能躍升

隨著生成式AI（AIGC）和大模型技術的快速發(fā)展，智能手機、AI PC、智能汽車等端側設備對AI能力的需求正呈爆發(fā)式增長。然而，端側AI的核心痛點在于“有限資源承載復雜計算”。此外，在半導體IP領域，“面向未來5年的產(chǎn)品方向進行前瞻布局”已成為行業(yè)共識，這讓IC設計人員在定義下一代端側AI計算芯片時面臨極大挑戰(zhàn)。

為解決這些產(chǎn)業(yè)難題，“周易”X3 NPU IP應運而生，旨在打造端側AI計算效率的新標桿?！爸芤住盭3采用專為大模型打造的DSP+DSA融合架構，突破了傳統(tǒng)NPU架構的局限——純DSA架構雖能高效處理固定算法，但面對大模型的靈活迭代易陷入“硬管道”困境，而DSP的加入有效彌補了通用計算的短板。同時，“周易”X3的架構也兼顧了CNN與Transformer的通用架構，支持全算力類型并增強浮點運算FLOPS，助力實現(xiàn)從定點到浮點計算的關鍵轉變。

在架構創(chuàng)新方面，“周易”X3還集成了自研解壓硬件WDC，通過軟件無損壓縮+硬件解壓的方式，可額外獲得15%-20%的等效帶寬；配合W4A8/W4A16計算加速模式，有效破解了端側大模型的帶寬消耗難題；通過集成AI專屬硬件引擎AIFF（AI Fixed-Function）與專用硬化調度器，將CPU負載壓低至0.5%，確保多任務場景下的低延遲響應；支持int4/int8/int16/int32/fp4/fp8/fp16/bf16/fp32多精度融合計算及強浮點計算，可靈活適配智能手機邊緣部署、AI PC推理、智能汽車等從傳統(tǒng)CNN到前沿大模型的數(shù)據(jù)類型需求，實現(xiàn)性能與能效的平衡。

談及W4A8/W4A16計算加速模式創(chuàng)新，安謀科技Arm China產(chǎn)品總監(jiān)鮑敏祺形象地比喻道：“W4A8/W4A16是混合量化策略，旨在平衡模型精度與計算效率，通過降低權重的比特數(shù)來減少顯存占用，同時保持激活值較高的精度以最小化推理誤差。如果W4A16計算是1秒輸出，那么到了W4A8就可能是600毫秒輸出。因為在保證精度的前提下，‘A’（即Activation，激活值）的數(shù)值降低了，就相當于算力翻倍。當然，端側需優(yōu)先定義可用模型，再解決系統(tǒng)問題——早期端側聚焦1B-3B模型，但7B模型才具備實用價值。當端側要承載更大參數(shù)規(guī)模的AI模型（比如從3B擴大到7B），‘W’（即Weight，權重）也要隨之降低，安謀科技Arm China也在協(xié)同合作伙伴著力優(yōu)化W2A8，以支持7B模型在手機等終端部署，而保證精度是前提?！?br />
這些創(chuàng)新為“周易”X3帶來了顯著的性能提升：“周易”X3單Cluster支持8-80 FP8 TFLOPS算力靈活配置，單Core帶寬高達256GB/s。相較于“周易”X2產(chǎn)品，“周易”X3的CNN模型性能提升30%~50%，多核算力線性度達到70%~80%；在同算力規(guī)格下，AIGC大模型能力較上一代產(chǎn)品實現(xiàn)10倍增長。實測數(shù)據(jù)顯示，在Llama2 7B大模型中，Prefill階段算力利用率達72%，Decode階段在自研解壓硬件WDC加持下，有效帶寬利用率超100%。

創(chuàng)新亮點：軟硬協(xié)同，破解端側AI開發(fā)痛點

“周易”X3不僅在硬件上實現(xiàn)突破，還配套了完善易用的“周易”Compass AI軟件平臺。通過“軟硬一體”的協(xié)同設計，讓開發(fā)者從“能用”到“好用”，顯著提升開發(fā)部署效率，破解端側AI行業(yè)“適配難、周期長、門檻高”的痛點。

對此，鮑敏祺指出：“‘周易’X3遵循‘軟硬協(xié)同、全周期服務與成就客戶’的產(chǎn)品準則，提供從硬件、軟件到售后服務的全鏈路支持，以前瞻性設計、專業(yè)團隊交付與深度服務投入，全面助力客戶產(chǎn)品成功與商業(yè)化落地。”

Compass AI軟件平臺實現(xiàn)了從模型導入到部署的端到端支持，兼容TensorFlow、ONNX、PyTorch等主流AI框架，覆蓋超160種算子與270多種模型，提供開箱即用的Model Zoo。其創(chuàng)新的Hugging Face模型“一鍵部署”功能，讓開發(fā)者無需復雜適配即可實現(xiàn)大模型的端側落地，大幅縮短開發(fā)周期。

針對大模型的動態(tài)特性，Compass AI平臺具備業(yè)界領先的動態(tài)Shape支持能力，可高效處理任意長度輸入序列；同時支持GPTQ等主流量化方案及Tensor/Channel/Token Level多樣量化方式，配合Bit精度軟件仿真平臺，讓開發(fā)者在平衡性能與精度時更具靈活性。豐富的調試工具與白盒部署能力，更滿足了深度開發(fā)場景下的定制需求。

同時，安謀科技Arm China深知生態(tài)的核心在于“開放”，已將Compass AI平臺的Parser、Optimizer、Linux Driver等核心組件開放，成為行業(yè)內少數(shù)開放量化能力的廠商。通過支持DSL算子編程語言，客戶可自主開發(fā)自定義算子或打造專屬模型編譯器，實現(xiàn)差異化創(chuàng)新。這種“開放”的策略，既降低了中小開發(fā)者的入門門檻，也為大客戶提供了深度定制的空間。

安謀科技Arm China NPU產(chǎn)品線負責人兼首席架構師舒浩博士總結道：“‘周易’X3的產(chǎn)品優(yōu)勢，源于通用、靈活、高效且軟硬協(xié)同的系統(tǒng)架構設計，這一設計使其兼具廣泛的行業(yè)適用性與靈活的邊端側AI應用場景匹配能力?！?br />

應用場景：從“可用”到“好用”的端側AI革命

“周易”X3的產(chǎn)品定位精準覆蓋基礎設施、智能汽車、移動終端、智能物聯(lián)網(wǎng)四大核心領域，將算力轉化為實實在在的應用價值。

在基礎設施領域，其支持CNN與大模型的混合加速，為邊緣計算節(jié)點與加速卡提供核心算力，成為數(shù)據(jù)中心算力的重要補充；在智能汽車領域，“周易”X3既可以在ADAS系統(tǒng)中為自動泊車等輔助駕駛功能提供高性能AI算力支持，也可以在IVI（車載信息娛樂系統(tǒng)）中支持基于語音與車內外視頻圖像輸入的智能互動；在移動終端方面，可在AI PC與AI手機上實現(xiàn)超分渲染與AI Agent應用，讓端側多模態(tài)交互更流暢；在智能物聯(lián)網(wǎng)領域，通過本地AI推理提升智能網(wǎng)關、IPC等設備的響應速度，兼顧實時性與隱私保護。

從產(chǎn)品家族演進來看，“周易”系列已形成從Z1到X3的完整布局，覆蓋從入門級AIoT到高端智能設備的全場景需求?，F(xiàn)場展示的DeepSeek-R1-Distill-Qwen-1.5B文生文、Stable Diffusion v1.5文生圖等Demo，直觀呈現(xiàn)了端側大模型的落地效果。

結語

“周易”X3 NPU IP的發(fā)布，不僅是安謀科技Arm China技術實力的體現(xiàn)，更是端側AI規(guī)?；渴鸬年P鍵一步。通過軟硬協(xié)同、前瞻布局和生態(tài)開放，它有望推動端側AI從“功能實現(xiàn)”走向“場景深化”，為智能汽車、移動終端等領域注入新動力。隨著行業(yè)對算力、精度和易用性需求的持續(xù)演化，安謀科技Arm China的戰(zhàn)略實踐或將成為中國AI芯片IP發(fā)展的參考范式。