為探究多樣性算力發(fā)展新模式、推動國內(nèi)算力產(chǎn)業(yè)優(yōu)化升級，中國通信標(biāo)準(zhǔn)化協(xié)會多樣性算力產(chǎn)業(yè)及標(biāo)準(zhǔn)推進委員會(CCSA TC622)將于2025年11月18日在北京香格里拉飯店舉辦“多樣性算力產(chǎn)業(yè)發(fā)展大會2025”，屆時多位頂尖專家將共話前沿技術(shù)趨勢、共謀多元算力發(fā)展新未來。

作為AI網(wǎng)絡(luò)互聯(lián)領(lǐng)域的創(chuàng)新者，奇異摩爾聯(lián)合創(chuàng)始人、產(chǎn)品及解決方案副總裁祝俊東受邀出席本次大會，并將在“AI芯片高速互聯(lián)技術(shù)(Scale -up)”分論壇發(fā)表主題演講：AI原生時代：超節(jié)點芯粒加速AI芯片高速互聯(lián)(Scale -up)。

超節(jié)點：破解AI算力瓶頸的關(guān)鍵鑰匙

隨著大語言模型(LLM)參數(shù)規(guī)模已突破萬億級，訓(xùn)練與推理的計算和通信需求迅速攀升，傳統(tǒng)多卡xPU服務(wù)器算力與顯存瓶頸日益凸顯。分布式訓(xùn)練中，張量并行(TP)依賴的All-Reduce通信與混合專家模型(MoE)中的All-to-All通信，對網(wǎng)絡(luò)帶寬與延遲提出前所未有的苛求。

在此背景下，構(gòu)建高帶寬、低延遲的Scale Up網(wǎng)絡(luò)成為關(guān)鍵路徑，其目標(biāo)是將數(shù)百乃至上千張AI加速卡緊密互聯(lián)，形成統(tǒng)一調(diào)度的超節(jié)點，實現(xiàn)跨設(shè)備的高效協(xié)同。超節(jié)點的優(yōu)勢場景為通信開銷較大的AI任務(wù)，如大模型訓(xùn)練、高并發(fā)推理、實時交互等。隨著NVL72、CloudMatrix 384等系統(tǒng)商用，超節(jié)點架構(gòu)正從概念走向部署核心。

未來Scale Up網(wǎng)絡(luò)的發(fā)展將圍繞下列技術(shù)路線協(xié)同演進：

1超節(jié)點規(guī)模化

超節(jié)點正通過單機柜超節(jié)點(每機柜<20kW)邁向多機柜超節(jié)點(每機柜>100kW)，并由機柜級向集群級擴展。

2SerDes速率躍升

作為芯片、芯粒間數(shù)據(jù)傳輸?shù)牡讓右妫琒erDes速率正從112G向224G/448G PAM4躍遷，成為支撐超節(jié)點帶寬的關(guān)鍵。

3存算一體集成

存算一體技術(shù)通過近存計算、存內(nèi)計算等路線，突破AI計算中數(shù)據(jù)搬移的能耗瓶頸，實現(xiàn)能效數(shù)量級提升。

4光互聯(lián)與CPO邁向成熟

在機柜層面，光互聯(lián)技術(shù)使得超節(jié)點單機柜部署邁向雙機柜，與機柜形態(tài)解耦可彈性拓展算力規(guī)模，突破現(xiàn)有機柜功耗限制及互聯(lián)瓶頸，提升系統(tǒng)級效能;在芯片層面，CPO將光引擎與xPU計算芯粒/Switch芯片共封裝，以取代可插拔光模塊，解決功耗與信號衰減問題，聚焦實現(xiàn)帶寬密度與能效的數(shù)量級提升。

(圖源：奇異摩爾)

這些技術(shù)共同指向一個目標(biāo)：構(gòu)建高效能算力基座，支撐下一代AI系統(tǒng)的持續(xù)進化。

總結(jié)以上發(fā)展趨勢，AI網(wǎng)絡(luò)互聯(lián)技術(shù)已演進為AI集群算力的核心支柱，其發(fā)展將直接決定下一代AGI系統(tǒng)的算力天花板。

然而，Scale Up互聯(lián)發(fā)展要持續(xù)應(yīng)對高帶寬、靈活拓撲、多協(xié)議、內(nèi)存語義，以及擁塞控制等多方面的挑戰(zhàn)。

兼具計算+網(wǎng)絡(luò)雙重優(yōu)勢的奇異摩爾，首創(chuàng)了Kiwi G2G IOD 通用IO芯粒方案，專為超節(jié)點網(wǎng)絡(luò)設(shè)計，用于應(yīng)對Scale Up互聯(lián)挑戰(zhàn)。Kiwi G2G IOD支持TB級帶寬與高并發(fā)數(shù)據(jù)傳輸，給大模型的訓(xùn)練和推理提供持續(xù)穩(wěn)定的高效互聯(lián)支撐;其兼容全互聯(lián)、脊葉等多種網(wǎng)絡(luò)結(jié)構(gòu)，可有效應(yīng)對拓展或任務(wù)切換時重新設(shè)計網(wǎng)絡(luò)的需求;同時支持消息語義和內(nèi)存語義，兼具性能與靈活性;基于奇異摩爾獨創(chuàng)的HPDE可編程架構(gòu)，能支持不同的協(xié)議包括SUE、OISA、ETH-X，和未來其他主流協(xié)議，從而滿足不同廠商不同場景的需求，在生態(tài)百花齊放的Scale Up系統(tǒng)中支持多協(xié)議類型及其升級，從而降低持續(xù)研發(fā)難度和開發(fā)成本。

作為一家全棧式AI網(wǎng)絡(luò)互聯(lián)產(chǎn)品及解決方案提供商，奇異摩爾在Scale Out、Scale Up、Scale Inside方面均提出了自己的創(chuàng)新性方案。在本次大會上，奇異摩爾聯(lián)合創(chuàng)始人、產(chǎn)品及解決方案副總裁?？|將從超節(jié)點網(wǎng)絡(luò)切入，深入分享奇異摩爾在全棧式互聯(lián)架構(gòu)方面的技術(shù)突破與實踐經(jīng)驗，探討如何通過開放、高效的互聯(lián)技術(shù)，為AI高性能計算提供更堅實的支撐。

活動預(yù)告

論壇名稱

分論壇二：AI芯片高速互聯(lián)技術(shù)(Scale-up)

論壇介紹

AI芯片高速互聯(lián)技術(shù)作為支撐大規(guī)模算力集群建設(shè)的關(guān)鍵基礎(chǔ)設(shè)施，在我國研發(fā)進程中仍面臨若干技術(shù)瓶頸。主要表現(xiàn)在：行業(yè)標(biāo)準(zhǔn)尚未統(tǒng)一，以華為(靈衢協(xié)議)與寒武紀(jì)等企業(yè)為代表的解決方案存在兼容性問題，影響跨廠商協(xié)作效能;盡管UMP平衡聯(lián)盟著力推進開放標(biāo)準(zhǔn)(單鏈路800GB/s)建設(shè)，但其性能指標(biāo)僅為NVLink 5.0版本的44%，且配套生態(tài)系統(tǒng)建設(shè)相對薄弱?；诖?，"AI芯片高速互聯(lián)技術(shù)(Scale-up)"專題論壇將組織行業(yè)專家，重點就Chiplet芯片設(shè)計方法論、下一代Scale-UP光互聯(lián)網(wǎng)絡(luò)技術(shù)演進以及超節(jié)點應(yīng)用落地實施等核心議題開展專題研討。

演講主題

AI原生時代：超節(jié)點芯粒加速AI芯片高速互聯(lián)(Scale Up)

關(guān)于我們

AI網(wǎng)絡(luò)全棧式互聯(lián)架構(gòu)產(chǎn)品及解決方案提供商

奇異摩爾，成立于2021年初，是一家行業(yè)領(lǐng)先的AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商。公司依托于先進的高性能RDMA 和Chiplet技術(shù)，創(chuàng)新性地構(gòu)建了統(tǒng)一互聯(lián)架構(gòu)——Kiwi Fabric，專為超大規(guī)模AI計算平臺量身打造，以滿足其對高性能互聯(lián)的嚴(yán)苛需求。我們的產(chǎn)品線豐富而全面，涵蓋了面向不同層次互聯(lián)需求的關(guān)鍵產(chǎn)品，如面向北向Scale-out網(wǎng)絡(luò)的AI原生超級網(wǎng)卡、面向南向Scale-up網(wǎng)絡(luò)的GPU片間互聯(lián)芯粒、以及面向芯片內(nèi)算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產(chǎn)品共同構(gòu)成了全鏈路互聯(lián)解決方案，為AI計算提供了堅實的支撐。