要點

? 高通與智譜合作將GLM-4V端側視覺大模型，面向驍龍8至尊版進行深度適配和推理優(yōu)化，支持豐富的多模態(tài)交互方式。

? 利用驍龍8至尊版的強大終端側AI性能和高通AI軟件棧為模型帶來的性能優(yōu)化，GLM-4V端側視覺大模型能夠以超過70 tokens/秒的速度在終端側高速運行。

? GLM-4V-Mini、GLM-4V-Nano端側視覺大模型和GLM-4-9B模型即將在高通AI Hub上線，搭載驍龍8至尊版的商用手機均可支持。

此前，驍龍峰會首日，智譜與高通技術公司宣布合作將GLM-4V端側視覺大模型，面向驍龍8至尊版進行深度適配和推理優(yōu)化，支持豐富的多模態(tài)交互方式，進一步推動多模態(tài)生成式AI在終端側的部署和推廣，賦能更加情境化、個性化的終端側智能體驗。

驍龍8至尊版移動平臺搭載全新第二代高通Oryon CPU和高通Hexagon NPU，終端側AI能力再次實現突破，能夠賦能規(guī)模更大且更加復雜的多模態(tài)生成式AI用例在終端側高效運行。充分利用驍龍8至尊版的強大終端側AI性能和高通AI軟件棧為模型帶來的性能優(yōu)化，GLM-4V端側視覺大模型能夠實現令人驚嘆的處理能力，以超過70 tokens/秒的速度在終端側高速運行。

改善情境化和定制化一直是用戶體驗的長期需求。多模態(tài)生成式AI模型能夠利用終端側豐富的傳感器數據，例如文本、圖像、音頻、視頻等，打造更加直觀、無縫的智能交互體驗。通過與驍龍8至尊版進行深度適配和推理優(yōu)化，終端側多模態(tài)應用ChatGLM能夠支持三種終端側交互方式：使用相機進行實時語音對話、上傳照片進行對話、上傳視頻進行對話。豐富的多模態(tài)輸入輸出方式賦能智能助手ChatGLM實現了跨家庭、出行、工作和教育等多個場景的應用，例如通過手機攝像頭獲取穿搭建議，利用視覺信息實現智能導航，通過車內攝像頭識別遺留物品，拍攝畫作進行風格解析等。

高通技術公司高級副總裁兼技術規(guī)劃和邊緣解決方案業(yè)務總經理馬德嘉表示：

高通與智譜共同致力于推動生成式AI在邊緣終端上的應用和普及，并已經在手機、PC、汽車等領域展開了緊密合作。結合高通在終端側AI領域的長期領導力，跨不同邊緣終端的廣泛市場布局，以及驍龍8至尊版的AI創(chuàng)新，我們在推動終端側生成式AI發(fā)展方面獨具優(yōu)勢。多模態(tài)是發(fā)揮終端生成式AI潛力的重要技術發(fā)展方向，我們期待攜手智譜，探索多模態(tài)在終端側AI應用上的更多可能。

智譜COO張帆表示：

驍龍8至尊版移動平臺提供了卓越的AI算力，結合高通AI軟件棧推理框架的性能優(yōu)化，使得智譜的終端側大模型可以在設備端實現高速推理。我們相信，終端側算力平臺的性能躍遷結合大模型能力的進步，會將生成式AI帶入新的時代。終端側運行的生成式AI，在為用戶提供變革性體驗的同時，能更好地保護用戶隱私安全，真正讓AI變革用戶的日常生活。

GLM-4V-Mini、GLM-4V-Nano端側視覺大模型和GLM-4-9B模型即將在高通AI Hub上線，搭載驍龍8至尊版的商用手機均可支持。