●●●

PART. 01

產(chǎn)品簡介

Module LLM Kit 是一款專注于離線 AI 推理與數(shù)據(jù)通信接口應用的智能模塊套件，整合了 Module LLM 與 Module13.2 LLM Mate 模塊，滿足多場景下的離線 AI 推理與數(shù)據(jù)交互需求。Module LLM 是一款集成化的離線大語言模型 (LLM) 推理模塊，專為需要高效、智能交互的終端設(shè)備設(shè)計。Module13.2 LLM Mate 模塊通過 M5BUS 接口與 Module LLM 實現(xiàn)堆疊供電，并提供Type-C，RJ45，FPC-8P 等多種接口功能，便于系統(tǒng)集成和擴展。

PART. 02

產(chǎn)品特性

◎ 高算力，低能耗

Module LLM Kit 采用 愛芯AX630C SoC 先進處理器，內(nèi)置 3.2 TOPs 高能效 NPU，支持 Transformer 模型推理，輕松應對復雜 AI 任務(wù)。模塊搭載 4GB LPDDR4 內(nèi)存（其中 1GB 供用戶使用，3GB 專用于硬件加速）及 32GB eMMC 存儲，支持多模型并行加載與串聯(lián)推理，滿足多任務(wù)處理需求。模塊運行功耗僅 1.5W，遠低于同類產(chǎn)品，節(jié)能高效，適合長期穩(wěn)定運行。

◎便捷語音與數(shù)據(jù)交互

集成麥克風、揚聲器、TF 存儲卡、USB OTG 及 RGB 狀態(tài)燈，滿足多樣化應用需求，輕松實現(xiàn)語音交互與數(shù)據(jù)傳輸。

◎ 靈活拓展

板載 SD 卡槽支持固件冷/熱升級，UART 通信接口簡化連接與調(diào)試，確保模塊功能持續(xù)優(yōu)化與擴展。USB 口支持主從自動切換，既可以做調(diào)試口，也可以外接更多 USB 設(shè)備如攝像頭。

◎多模型兼容

出廠預裝 Qwen2.5-0.5B 大語言模型，內(nèi)置 KWS（喚醒詞）、ASR（語音識別）、LLM（大語言模型）及 TTS（文本生成語音）功能，且支持 apt 快速更新軟件和模型包。安裝 openai-api 插件后，即可兼容 OpenAI 標準 API，支持聊天、對話補全、語音轉(zhuǎn)文字和文字轉(zhuǎn)語音等多種應用模式。官方 apt 倉庫提供豐富的大模型資源，包括 deepseek-r1-distill-qwen-1.5b、InternVL2_5-1B-MPO、Llama-3.2-1B、Qwen2.5-0.5B 以及 Qwen2.5-1.5B，同時還涵蓋文本轉(zhuǎn)語音模型（whisper-tiny、whisper-base、melotts）和視覺模型（如 yolo11 等 SOTA 模型）。倉庫將持續(xù)更新，以支持最前沿的模型應用，滿足各種復雜 AI 任務(wù)。

◎ 即插即用，快速集成

搭配 M5 主機，無需繁瑣設(shè)置，即可將其集成到現(xiàn)有智能設(shè)備中，快速實現(xiàn) AI 交互體驗。

PART. 03

應用場景

◎ 離線語音助手

◎ 文本語音轉(zhuǎn)換

◎ 智能家居控制

◎ 互動機器人