近日,天津移動(dòng)基于華為AI WAN高算效廣域方案在天津東麗融媒體中心與天津空港智算中心之間,成功完成基于Qwen大模型的端云協(xié)同推理拉遠(yuǎn)試點(diǎn)——將大模型“一分為二”:敏感計(jì)算留在本地,僅將不可還原的中間特征傳輸至云端,通過(guò)無(wú)損智算專線實(shí)現(xiàn)毫秒級(jí)協(xié)同。這意味著,行業(yè)用戶能在核心數(shù)據(jù)“不出園區(qū)”的前提下,像使用水電一樣按需調(diào)用云端算力,為數(shù)據(jù)敏感行業(yè)提供了兼顧安全與效率的AI落地新范式。
當(dāng)前,政務(wù)、醫(yī)療、融媒體等領(lǐng)域的AI推理需求呈爆發(fā)式增長(zhǎng)。然而,企業(yè)私有數(shù)據(jù)高度敏感,要求“數(shù)據(jù)不出園區(qū)”。園區(qū)普遍受限于散熱、供電、空間等條件無(wú)法規(guī)模部署算力,也無(wú)法有效接入云端AI能力。
天津移動(dòng)與華為探索出端云協(xié)同解決方案,從根源上化解了這一次矛盾。在東麗融媒體中心部署華為星河算網(wǎng)一體機(jī)(端側(cè)),承接本地內(nèi)容初審、實(shí)時(shí)風(fēng)控與私有素材屬地化運(yùn)算,實(shí)現(xiàn)核心數(shù)據(jù)不出域;在空港智算中心配置算力集群(云側(cè)),負(fù)責(zé)不可還原的中間層特征的大規(guī)模并行推理、AI內(nèi)容深加工等復(fù)雜任務(wù),兼顧屬地合規(guī)管控與全媒體生產(chǎn)效率,同時(shí)支持彈性租賃運(yùn)營(yíng)商算力資源。
本次試點(diǎn)在真實(shí)網(wǎng)絡(luò)環(huán)境下重點(diǎn)驗(yàn)證了三大核心能力:
長(zhǎng)距離無(wú)損協(xié)同,云端算力“像在本地”。華為首創(chuàng)的基于用戶優(yōu)先級(jí)的流量控制技術(shù),為每個(gè)租戶配備了專屬的“智算快車道”。實(shí)測(cè)長(zhǎng)距傳輸效率高達(dá)97%,為運(yùn)營(yíng)商 “算力服務(wù)延伸至任意企業(yè)園區(qū)”提供了網(wǎng)絡(luò)基礎(chǔ)。
模型切分分層推理,核心數(shù)據(jù)不出園。大模型關(guān)鍵隱私運(yùn)算留存在企業(yè)端側(cè),只有無(wú)法反向還原的中間層特征上傳云端。即便傳輸鏈路中數(shù)據(jù)被惡意截獲,攻擊者也無(wú)法還原原始數(shù)據(jù),從架構(gòu)層面徹底化解“數(shù)據(jù)安全”與“算力租用”的矛盾。
按需彈性擴(kuò)縮容,算力即取即用。以典型融媒體場(chǎng)景為例,端側(cè)1臺(tái)+云側(cè)2臺(tái)服務(wù)器協(xié)同工作,4K視頻實(shí)時(shí)AI剪輯與字幕生成——本地處理敏感素材(如未審片段),云端完成渲染計(jì)算,業(yè)務(wù)高峰自動(dòng)調(diào)用云端資源,業(yè)務(wù)結(jié)束后,資源即時(shí)釋放。
此次試點(diǎn)的意義不僅在于技術(shù)突破,更在于為運(yùn)營(yíng)商探索了一種全新的算力服務(wù)模式——從單純的“賣算力”升級(jí)為提供“安全算力服務(wù)”。
天津移動(dòng)相關(guān)負(fù)責(zé)人表示,“我們?yōu)閿?shù)據(jù)敏感行業(yè)提供了一個(gè)新選擇:既不必自建大規(guī)模算力基礎(chǔ)設(shè)施,也無(wú)需犧牲數(shù)據(jù)安全,即可享受云端大模型的強(qiáng)大推理能力。”
對(duì)于廣大受限于園區(qū)條件的企業(yè)而言,無(wú)需改造網(wǎng)絡(luò)和電力,只需部署一臺(tái)算網(wǎng)一體機(jī)即可調(diào)用云端大模型能力。可以預(yù)見(jiàn),隨著該方案的商用推廣,“算力便利店”或?qū)⒃谌珖?guó)各地開(kāi)花,加速AI在數(shù)據(jù)敏感行業(yè)的規(guī)?;涞?。
-
華為
+關(guān)注
關(guān)注
218文章
36248瀏覽量
262895 -
網(wǎng)絡(luò)
+關(guān)注
關(guān)注
14文章
8357瀏覽量
95666 -
AI
+關(guān)注
關(guān)注
91文章
41717瀏覽量
302924
原文標(biāo)題:AI WAN@517電信日 | 數(shù)據(jù)不出園,算力按需取:天津移動(dòng)聯(lián)合華為創(chuàng)新端云協(xié)同推理,破解企業(yè)AI落地“安全與效率”兩難
文章出處:【微信號(hào):Huawei_Fixed,微信公眾號(hào):華為數(shù)據(jù)通信】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
天津移動(dòng)聯(lián)合華為創(chuàng)新構(gòu)建可信高速數(shù)據(jù)網(wǎng)
天津移動(dòng)與蘇州移動(dòng)協(xié)同華為筑就“數(shù)據(jù)高鐵”
天津聯(lián)通聯(lián)合華為成功打造全國(guó)首個(gè)AI×寬上行樣板點(diǎn)
天津聯(lián)通與華為簽署寬上行聯(lián)合創(chuàng)新備忘錄
天津移動(dòng)攜手華為落地全國(guó)首個(gè)4.9GHz+F/A SUL一體化基站示范區(qū)
中國(guó)電信攜手華為與鼎橋成功試點(diǎn)機(jī)械導(dǎo)盲犬解決方案
福州移動(dòng)與華為聯(lián)合推出國(guó)內(nèi)首個(gè)端到端智能化體驗(yàn)經(jīng)營(yíng)系統(tǒng)
湖南移動(dòng)攜手華為在湘潭大學(xué)完成5G-A超級(jí)上行技術(shù)部署
中國(guó)電信聯(lián)合華為發(fā)布邊云協(xié)同算網(wǎng)解決方案
華為亮相2025金融AI推理應(yīng)用落地與發(fā)展論壇
華為CANN與智譜GLM端側(cè)模型完成適配
華為中國(guó)行2025天津新質(zhì)生產(chǎn)力城市峰會(huì)成功舉辦
“端云+多模態(tài)”新范式:《移遠(yuǎn)通信AI大模型技術(shù)方案白皮書》正式發(fā)布
天津移動(dòng)聯(lián)合華為成功完成端云協(xié)同推理拉遠(yuǎn)試點(diǎn)
評(píng)論