電子發(fā)燒友網(wǎng)報(bào)道（文 / 李彎彎）端側(cè) AI 芯片，是專門為在諸如智能手機(jī)、IoT 設(shè)備、自動(dòng)駕駛汽車等終端設(shè)備上，高效運(yùn)行人工智能算法而設(shè)計(jì)的處理器。通過硬件級(jí)優(yōu)化，它們能夠?qū)崿F(xiàn)低功耗、高實(shí)時(shí)性的 AI 計(jì)算，構(gòu)成了端側(cè) AI 落地的核心硬件基礎(chǔ)。

為何需要端側(cè) AI 芯片？隨著 AI 技術(shù)不斷發(fā)展，傳統(tǒng)芯片暴露出局限性。CPU 和 GPU 雖通用性強(qiáng)，但能效比較低，難以契合移動(dòng)設(shè)備對(duì)功耗的嚴(yán)苛要求；依賴云端則會(huì)引發(fā)延遲、隱私以及網(wǎng)絡(luò)穩(wěn)定性等問題。與之相比，專用端側(cè) AI 芯片優(yōu)勢(shì)顯著，具備高能效比、低延遲、隱私安全保障以及離線運(yùn)行能力等特性。

端側(cè) AI 芯片的核心技術(shù)涵蓋架構(gòu)設(shè)計(jì)與關(guān)鍵技術(shù)創(chuàng)新等方面。在架構(gòu)設(shè)計(jì)上，NPU（神經(jīng)網(wǎng)絡(luò)處理單元）堪稱端側(cè) AI 芯片的核心。它是專為神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的加速器，像華為昇騰 NPU、Apple 神經(jīng)引擎等，支持并行計(jì)算以及 INT8/FP16 低精度運(yùn)算。

再者是異構(gòu)計(jì)算架構(gòu)，現(xiàn)代端側(cè) AI 芯片普遍采用該架構(gòu)，集成了 CPU、GPU、NPU、DSP（數(shù)字信號(hào)處理器）等多種計(jì)算單元，以應(yīng)對(duì)各類不同的計(jì)算任務(wù)，高通 Hexagon 便是典型代表。

在關(guān)鍵技術(shù)創(chuàng)新方面，量化計(jì)算可支持 INT4/INT8 低精度運(yùn)算，有效提升能效，聯(lián)發(fā)科 APU 就是范例；稀疏化加速技術(shù)能夠跳過零值權(quán)重計(jì)算，例如特斯拉 Dojo 芯片；存算一體技術(shù)可減少數(shù)據(jù)搬運(yùn)功耗（即存內(nèi)計(jì)算，如存算一體芯片）；動(dòng)態(tài)調(diào)度技術(shù)能夠依據(jù)任務(wù)負(fù)載動(dòng)態(tài)分配算力，ARM Ethos NPU 便是如此。

主流的端側(cè) AI 芯片廠商及產(chǎn)品有哪些？在此列舉部分廣為人知的廠商及其產(chǎn)品。華為海思昇騰（Ascend）系列，屬于面向邊緣推理的 AI 芯片，如 Ascend 310；麒麟 SoC 集成了 NPU，像麒麟 9000，可支持手機(jī)端 AI 任務(wù)。

高通驍龍移動(dòng)平臺(tái)，部分型號(hào)支持端側(cè) AI，比如驍龍 8 Gen 2 集成了 Hexagon 處理器，算力超過 60 TOPS；QCS 系列則是面向物聯(lián)網(wǎng)設(shè)備的 AI 芯片，例如 QCS8250 支持 15 TOPS 算力。

聯(lián)發(fā)科天璣系列集成了 AI 處理器，可支持端側(cè) AI 任務(wù)。

蘋果 A 系列 / M 系列芯片集成了神經(jīng)網(wǎng)絡(luò)引擎，像 A17 Pro 算力達(dá) 35 TOPS，M2 芯片算力達(dá) 15.8 TOPS。

三星 Exynos 系列，例如 Exynos Auto V 系列，是面向車用的 AI 芯片，算力超過 10 TOPS。

英特爾 Movidius VPU 專為視覺 AI 優(yōu)化，比如 Myriad X 支持 4 TOPS 算力。

地平線（Horizon Robotics）征程系列面向自動(dòng)駕駛和智能座艙，如征程 5 算力達(dá) 128 TOPS。

寒武紀(jì)（Cambricon）MLU 系列，像 MLU220 支持 8 TOPS 算力，面向邊緣推理。

全志科技（Allwinner）V/R 系列，例如 V853 集成了 NPU，算力 1.2 TOPS，適用于智能攝像頭。

瑞芯微（Rockchip）RK3588 內(nèi)置 6 TOPS NPU，支持旗艦級(jí)邊緣計(jì)算。

當(dāng)前，端側(cè) AI 芯片的發(fā)展面臨諸多挑戰(zhàn)：在能效平衡方面，移動(dòng)設(shè)備需要在 1W 以下功耗實(shí)現(xiàn) TOPS 級(jí)算力；算法適配層面，芯片需要支持動(dòng)態(tài)稀疏化、混合精度等前沿算法；開發(fā)門檻上，存在廠商專用工具鏈（如華為 MindSpore Lite）與通用框架（TensorFlow Lite）的兼容性問題；碎片化生態(tài)方面，不同廠商的 NPU 指令集和編譯器存在差異，導(dǎo)致移植成本居高不下。

從發(fā)展趨勢(shì)來看，隨著 AI 模型復(fù)雜度提升，端側(cè) AI 芯片的算力會(huì)持續(xù)增強(qiáng)，同時(shí)維持低功耗狀態(tài)。端側(cè) AI 芯片將支持多模態(tài)數(shù)據(jù)（如圖像、語音、傳感器數(shù)據(jù)）的融合處理，從而拓展更為豐富的應(yīng)用場(chǎng)景。輕量化模型（如 MobileNet、EfficientNet）和神經(jīng)架構(gòu)搜索（NAS）技術(shù)將進(jìn)一步優(yōu)化端側(cè) AI 的性能。端側(cè) AI 芯片與云端 AI 的協(xié)同作業(yè)將成為主流模式，復(fù)雜任務(wù)交由云端處理，實(shí)時(shí)任務(wù)則由端側(cè)設(shè)備完成。

總而言之，端側(cè) AI 芯片是推動(dòng) AI 技術(shù)在終端設(shè)備落地的核心硬件，其發(fā)展將對(duì)智能手機(jī)、智能穿戴、自動(dòng)駕駛、工業(yè)物聯(lián)網(wǎng)等眾多領(lǐng)域產(chǎn)生深遠(yuǎn)影響。盡管目前面臨一些挑戰(zhàn)，但未來端側(cè) AI 芯片必將朝著更高算力、更低功耗、更強(qiáng)安全性以及更豐富應(yīng)用場(chǎng)景的方向邁進(jìn)。