作者：Arm 人工智能平臺和開發(fā)者平臺與服務(wù)高級副總裁 Alex Spinelli

如今，全球數(shù)十億智能手機(jī)用戶已將實(shí)時輔助、流暢溝通與高度個性化視為基礎(chǔ)體驗(yàn)。在智能手機(jī)的功耗限制下實(shí)現(xiàn)高性能端側(cè)人工智能 (AI)，對規(guī)?；峁┘磿r智能體驗(yàn)、釋放 AI 未來潛力至關(guān)重要。

Google 近期推出的 Gemma 4 進(jìn)一步加速了行業(yè)向端側(cè) AI 轉(zhuǎn)型的進(jìn)程，讓開發(fā)者能夠輕松獲取優(yōu)化后的性能，并將更強(qiáng)大的 AI 體驗(yàn)直接融入用戶日常使用的各類應(yīng)用。想要在全球智能手機(jī)上實(shí)現(xiàn)這些優(yōu)勢，離不開底層算力基礎(chǔ)，而貫穿整個安卓生態(tài)系統(tǒng)的基石正是 Arm 計(jì)算平臺。

Gemma 4 全新特性

Gemma 4 進(jìn)一步提升了端側(cè) AI 的性能與能效，同時擴(kuò)展了對 Arm 架構(gòu)設(shè)備最關(guān)鍵的多模態(tài)體驗(yàn)支持，包括邏輯推理、智能體工作流，以及視聽融合類用例。該模型在文本、音頻* 和圖像功能上全面增強(qiáng)，支持更多語言，并為實(shí)時輔助體驗(yàn)打下基礎(chǔ)，可在不增加內(nèi)存占用的情況下，在端側(cè)實(shí)現(xiàn)更靈敏、更貼合上下文的交互。

*僅適用于 E2B（等效 20 億參數(shù)）和 E4B（等效 40 億參數(shù)）版本

探索 Gemma 4在 Arm 架構(gòu) CPU 上的性能

在 Arm 早期工程測試中，SME2 在運(yùn)行 Gemma 4 工作負(fù)載時展現(xiàn)出可觀的性能提升。針對 Gemma 4 E2B（等效 20 億參數(shù)）模型的初步測試顯示，預(yù)填充階段（處理用戶輸入）平均提速 5.5 倍，解碼階段（生成回復(fù)）最高提速 1.6 倍，充分體現(xiàn)了 Armv9 CPU 創(chuàng)新技術(shù)在端側(cè) AI 工作負(fù)載中的潛力。這些工程測試包含即將針對 Google XNNPACK 和 Arm KleidiAI 推送的補(bǔ)丁。

此類優(yōu)化的早期落地案例來自 Envision，這是一款面向失明與低視力人群的無障礙應(yīng)用，目前正評估采用端側(cè)方案提供更多本地化體驗(yàn)。此前，Envision 的場景識別功能依賴于云端連接。而在這個新版原型中，Gemma 4 在啟用 Arm 第二代可伸縮矩陣擴(kuò)展 (SME2) 功能的 Arm CPU 上本地運(yùn)行，用戶拍攝照片后，能直接在端側(cè)獲取詳細(xì)場景描述，無需聯(lián)網(wǎng)，也無需將敏感數(shù)據(jù)傳出設(shè)備。

這些基于 Arm CPU 的探索充分展現(xiàn)了 Arm 計(jì)算平臺的廣泛靈活性，以及在 CPU 與異構(gòu)計(jì)算路徑上持續(xù)創(chuàng)新的潛力。

這樣一來，開發(fā)者便能實(shí)現(xiàn)更低延遲、更強(qiáng)隱私保護(hù)且不受網(wǎng)絡(luò)狀況影響的更穩(wěn)定用戶體驗(yàn)。?從依賴云端轉(zhuǎn)向本地推理，對移動應(yīng)用而言意義重大，既能為開發(fā)者降低基礎(chǔ)設(shè)施成本，為用戶提升體驗(yàn)可靠性，還能催生出全新類別的實(shí)時應(yīng)用。

Envision 首席執(zhí)行官 Karthik Mahadevan 表示：“Envision 很高興能與 Arm 和 Google 合作，將強(qiáng)大的無障礙體驗(yàn)直接落地到智能手機(jī)。在啟用 SME2 的 Arm CPU 上本地運(yùn)行 Gemma 4 等視覺理解模型，為失明與低視力用戶帶來了高可靠、低延遲的場景描述與視覺問答功能。對我們的用戶群體來說，離線使用這些功能意義重大，既能確保技術(shù)隨時隨地可用，又能讓更多數(shù)據(jù)處理留在端側(cè)，進(jìn)一步提升隱私安全性?！?/p>

Envision 是 Gemma 4 在移動端與 Arm 計(jì)算平臺相結(jié)合的一個早期應(yīng)用案例。?隨著越來越多的開發(fā)者集成 Gemma 4，端側(cè) AI 將逐漸成為主流架構(gòu)，而非小眾選擇。

為什么 Arm 對安卓生態(tài)規(guī)?；渴鸲藗?cè) AI 至關(guān)重要

Armv9 架構(gòu)是目前安全性、普及度與先進(jìn)性均處于領(lǐng)先水平的指令集架構(gòu) (ISA)。?Arm SME2 作為 Armv9 架構(gòu)中的一組高級 CPU 指令，是一項(xiàng)核心技術(shù)，能夠在智能手機(jī)的功耗范圍內(nèi)高效加速矩陣密集型 AI 工作負(fù)載。SME2 已內(nèi)置于最新安卓智能手機(jī)搭載的Arm C1 CPU中，可實(shí)現(xiàn)更高且更穩(wěn)定的性能，同時提升能效。

Arm KleidiAI 是 Arm 推出的軟件加速層，已集成到 Google XNNPACK 等主流運(yùn)行時庫，以及 Google LiteRT 和 MediaPipe 等框架中。移動端開發(fā)者無需修改現(xiàn)有代碼、模型或部署管線，即可直接享受 SME2 帶來的性能優(yōu)勢。?因此，開發(fā)者只要面向啟用 SME2 的 Arm 架構(gòu)安卓設(shè)備進(jìn)行開發(fā)，就能自動獲得開箱即用的性能優(yōu)化。

實(shí)際上，這些軟件層面的優(yōu)化會直接轉(zhuǎn)化為更出色的端側(cè)體驗(yàn)。用戶可獲得更快的響應(yīng)速度、更流暢穩(wěn)定的交互，以及更可靠的端側(cè) AI，同時在模型能力持續(xù)增強(qiáng)的情況下，依舊保持電池續(xù)航和溫控表現(xiàn)。

安卓工程總監(jiān) Sandeep Patil 表示：“想要在安卓生態(tài)系統(tǒng)中高效地落地 Gemma 4，需要軟硬件深度協(xié)同。?我們與 Arm 的合作彰顯了雙方共同推進(jìn)端側(cè) AI 發(fā)展的決心，將 Armv9 架構(gòu)以及 SME2 等內(nèi)置加速技術(shù)的優(yōu)勢，與安卓操作系統(tǒng)相結(jié)合，規(guī)?；尫鸥叩男阅芎湍苄АＮ覀冋龜y手降低開發(fā)門檻，讓開發(fā)者無需修改現(xiàn)有應(yīng)用，就能為用戶帶來高速、靈敏且兼顧隱私安全的 AI 體驗(yàn)。”

Arm 與 Google攜手共筑端側(cè) AI 未來

隨著越來越多的應(yīng)用將 AI 遷移到端側(cè)，Arm 與 Google 將持續(xù)為開發(fā)者提供易用的性能優(yōu)化方案和清晰的指導(dǎo)，助力 Gemma 4 在所有基于 Arm 架構(gòu)的移動設(shè)備上全面加速應(yīng)用體驗(yàn)。

移動端 AI 的未來并非只取決于更大的模型，而在于模型能否在安卓生態(tài)系統(tǒng)中高效、安全、廣泛地規(guī)?；\(yùn)行。?通過此次合作，全球數(shù)十億安卓智能手機(jī)用戶都將享受到端側(cè) AI 帶來的體驗(yàn)升級。