近日，浙江聯(lián)通聯(lián)合浙江省疾控中心、聯(lián)通（浙江）產(chǎn)業(yè)互聯(lián)網(wǎng)有限公司、華為等生態(tài)合作伙伴，推出首例基于分布式邊云協(xié)同推理架構的多模態(tài)智能體應用。項目聚焦 AI 敏感數(shù)據(jù)推理應用需求，依托浙江聯(lián)通智算廣域網(wǎng)，通過打通浙江省疾控中心杭州推理節(jié)點與寧波聯(lián)通算力集群節(jié)點，成功完成智能體方案的驗證，為醫(yī)療疾控行業(yè)及產(chǎn)業(yè)智能化轉型發(fā)展探索了新路徑、提供了新思路。

隨著數(shù)字經(jīng)濟時代全面開啟，算力正為各行各業(yè)的數(shù)字化轉型注入新動能。浙江省疾控中心聚焦“智能輔助決策”，融合大模型技術實現(xiàn)多任務協(xié)同，在智庫問答、智能問數(shù)的基礎上進行智能化能力擴展，進一步結合流行學調(diào)查的實踐難點與卡點，實現(xiàn)場景化的應用效果，為應急處置決策、應急指揮調(diào)度、專家會商研判等應用場景。同時，為解決企業(yè)私有數(shù)據(jù)安全和園區(qū)內(nèi)部無法規(guī)模部署算力服務器，整體承載算力有限等問題。浙江聯(lián)通聯(lián)合華為打造基于分布式邊云協(xié)同推理解決方案，提供算網(wǎng)一體化服務，完美解決了企業(yè)在數(shù)據(jù)安全與算力擴容方面的核心痛點。

分布式邊云協(xié)同推理算網(wǎng)一體服務架構

邊云協(xié)同推理，數(shù)據(jù)安全不出園區(qū)：為了匹配推理算力快速增長的需求，企業(yè)優(yōu)化推理模型部署，多個模型首尾層部署在企業(yè)側算力上，模型中間層部署在聯(lián)通智算中心算力上，本地算力和云端算力通過智算廣域網(wǎng)傳輸模型中間層交互數(shù)據(jù)，保護企業(yè)原始數(shù)據(jù)不出園區(qū)，保障數(shù)據(jù)隱私安全。分布式推理模式一方面滿足企業(yè)數(shù)據(jù)不出私域的訴求，另一方面企業(yè)可以靈活租賃運營商的推理算力資源來應對推理需求的變化。

RDMA無損傳輸，模型拉遠訓練推理效率不下降：智算業(yè)務傳輸采用RDMA協(xié)議，協(xié)議本身對丟包率的敏感度提升了1個數(shù)量級，千分之一的丟包導致模型訓練效率下降50%，通過部署智算網(wǎng)關設備支持深度識別RDMA報文，現(xiàn)網(wǎng)驗證DeepSeek跨200公里拉遠推理算效損失小于5%，滿足企業(yè)拉遠推理算效不下降的要求。

浙江聯(lián)通建設發(fā)展部總經(jīng)理湯瀅琪表示，未來浙江聯(lián)通將持續(xù)聚焦集團“連接、算力、服務、安全”四大核心賽道，深化算力智聯(lián)網(wǎng)建設，加速推動以算力和數(shù)據(jù)為核心的新質(zhì)生產(chǎn)力發(fā)展，賦能千行百業(yè)數(shù)字化轉型升級。