近日,中國聯(lián)通在合作伙伴大會期間舉辦CUBE-Net 3.0新突破——下一代互聯(lián)網(wǎng)系列成果發(fā)布會。中國聯(lián)通集團建設發(fā)展部副總經(jīng)理呂洪濤、中國聯(lián)通研究院副院長唐雄燕、上海聯(lián)通副總經(jīng)理歐大春、華為數(shù)據(jù)通信產(chǎn)品線路由器領域總裁蔡駿等共同發(fā)布業(yè)界首個隱私數(shù)據(jù)零泄露的分布式訓推試點成果,這標志著中國聯(lián)通與華為在智算廣域網(wǎng)解決方案技術研究領域的合作邁入新階段。
當前,DeepSeek加速AI普惠化,各行各業(yè)紛紛布局AI應用,助力企業(yè)數(shù)智化轉型。企業(yè)自建算力成本高、場地受限,租用算力又面臨數(shù)據(jù)安全風險。如何保障算力靈活供應的同時確保數(shù)據(jù)安全,成為智算服務快速惠及千行百業(yè)的關鍵問題。
中國聯(lián)通與華為合作成功在上海金橋與臨港數(shù)據(jù)中心間完成業(yè)界首例基于模型分割學習的分布式邊云協(xié)同訓推技術方案驗證。通過部署AINet智算網(wǎng)關,實現(xiàn)分割學習、邊云協(xié)同和無損網(wǎng)絡融合創(chuàng)新,解決隱私數(shù)據(jù)敏感用戶在AI服務中的痛點,提供更安全可靠的人工智能服務。
在邊云協(xié)同訓練場景下,在企業(yè)側部署輕量級算卡資源,通過PP并行模式與云側智算中心算力進行協(xié)同訓練,樣本和模型首尾層部署在企業(yè)本地,保障樣本數(shù)據(jù)不出園區(qū);按需租賃運營商智算中心算力資源,僅部署模型中間層,接收/發(fā)送激活值、梯度值。云邊算力之間通過智算IP廣域網(wǎng)連接,高效、無損傳輸激活值、梯度值數(shù)據(jù)。當前基于Llama 2模型實測,與云上集中訓練相比,算效損失小于3%。
在邊云協(xié)同推理場景下,在企業(yè)側部署輕量級算卡資源,通過模型分割學習與云側智算中心算力進行協(xié)同推理,Embedding&Unembedding層及模型首尾層部署在企業(yè)園區(qū)本地,保障Prompt不出園區(qū);按需租賃運營商智算中心算力資源,僅部署模型中間層,接收/發(fā)送隱變量。云邊算力之間通過智算IP廣域網(wǎng)連接,高效傳輸隱變量數(shù)據(jù)。當前基于DeepSeek模型實測,邊云協(xié)同推理吞吐達到集中推理吞吐95%以上。
中國聯(lián)通研究院副院長、首席科學家唐雄燕介紹,以網(wǎng)強算,以算賦智,通過網(wǎng)絡技術創(chuàng)新推動AI服務普惠化,是網(wǎng)絡升級的重要方向。分布式邊云協(xié)同訓推方案解決隱私數(shù)據(jù)安全問題,滿足智算業(yè)務云化需求,實現(xiàn)算網(wǎng)資源靈活協(xié)同和隱私數(shù)據(jù)“0”泄露。
未來,中國聯(lián)通攜手華為推進算網(wǎng)一體服務創(chuàng)新,不斷豐富和完善分布式邊云協(xié)同訓推方案的核心內涵。通過提供高品質的算網(wǎng)一體化服務,加速企業(yè)AI應用規(guī)模化普及,促進產(chǎn)業(yè)升級與效率提升,驅動企業(yè)數(shù)智化轉型,為社會經(jīng)濟的高質量發(fā)展持續(xù)貢獻力量。
-
華為
+關注
關注
218文章
36212瀏覽量
262723 -
互聯(lián)網(wǎng)
+關注
關注
55文章
11350瀏覽量
110489 -
中國聯(lián)通
+關注
關注
12文章
3700瀏覽量
66789
原文標題:中國聯(lián)通聯(lián)合華為完成業(yè)界首例基于模型分割學習的分布式訓推試點,實現(xiàn)用戶隱私數(shù)據(jù)零泄露
文章出處:【微信號:Huawei_Fixed,微信公眾號:華為數(shù)據(jù)通信】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
中國聯(lián)通攜手華為發(fā)布業(yè)界首個隱私數(shù)據(jù)零泄露的分布式訓推試點成果
評論