LLM?8850?Card是一款面向邊緣設(shè)備的M.2 M-KEY 2242?AI 加速卡，把 42?mm 的袖珍體積與 Axera AX8850?SoC 的 24?TOPS?@?INT8 算力結(jié)合起來，為 Raspberry Pi 5、RK3588、x86 PC 等主機(jī) “一插即強(qiáng)” 地擴(kuò)展多模態(tài)大模型與視頻分析能力。

卡上配備微型渦輪風(fēng)扇 + 鋁合金 CNC 鰭片的主動散熱系統(tǒng)，由板載 EC 根據(jù)溫度?電流曲線智能調(diào)速，長期滿載也能維持低溫穩(wěn)態(tài)，避免密閉機(jī)殼內(nèi)的熱衰減。

板載DCDC + PMIC電源鏈路由 EC 進(jìn)行實時功耗管理，實現(xiàn) “按需供電、按需散熱”，大幅提升整機(jī)穩(wěn)定性。支持AXCL?Runtime，支持 C / Python API 一鍵部署 YOLO?v8/v9、CLIP、Whisper、Llama?3.2、Gemma?2、Qwen?2.5 等主流 CNN、Transformer、LLM 與多模態(tài)模型；同時利用 AX8850 的 VPU 硬件管線，提供 H.264/H.265 8K 編解碼與同編同解轉(zhuǎn)碼加速與縮放 / 裁切，兼顧 AI 與視頻流處理。支持 host 使用 ffmpeg 直接調(diào)用硬件視頻編解碼器。

產(chǎn)品特性

◎ 高算力 NPU：

24?TOPS?@?INT8，八核?Cortex?A55?1.7?GHz?CPU

◎ 原生 AXCL：

CNN、Transformer、CLIP、Whisper、Llama3.2、Qwen?2.5、InternVL?2 等全棧模型一鍵運(yùn)行，支持 H.264/H.265 同編同解轉(zhuǎn)碼

◎ 高帶寬內(nèi)存：

64?bit?LPDDR4x，4266?Mbps 速率，8GB 容量

◎ 硬件視頻引擎：

8?K?@?30?fps H.264/H.265 編碼，8?K?@?60?fps 解碼，支持 32 路 1080?p 并行解碼

◎ 超緊湊形態(tài)；豐富 I/O；智能散熱 / 供電

◎ 安全啟動 & 加密

應(yīng)用場景

◎ 工業(yè) / 商用 SBC 算力升級：

Raspberry?Pi 5、RK3588、TI?AM62x 等板卡本地運(yùn)行目標(biāo)檢測、缺陷識別

◎ 具身智能機(jī)器人：

AMR / AGV / 服務(wù)機(jī)器人即插即得 “感知?決策?控制” 本地鏈

◎ AIPC & 邊緣智能終端：

在迷你 PC 內(nèi)提供離線 Copilot、客服問答、會議字幕 & 即時翻譯

◎ NVR / NAS 智能化改造：

舊存儲盒增添多路 AI 車牌抓拍、事件摘要檢索 + 硬件轉(zhuǎn)碼

◎ 智能交互設(shè)備：

語音助手、智能門鈴、廣告機(jī)實現(xiàn)本地 LLM + TTS 的低時延對話

◎ AI 視覺網(wǎng)關(guān)：

交通路口、園區(qū)閘機(jī)前端推理，實時客流統(tǒng)計與危險行為告警