NVIDIA DGX Rubin 系統(tǒng)整合了 NVIDIA 在計(jì)算、網(wǎng)絡(luò)和軟件領(lǐng)域的最新突破，將推理 token 成本降至 NVIDIA Blackwell 平臺(tái)的十分之一，可加速從推理和訓(xùn)練到長上下文推理的任意 AI 工作負(fù)載。

NVIDIA DGX SuperPOD 正為基于 NVIDIA Rubin 平臺(tái)構(gòu)建的大規(guī)模系統(tǒng)部署鋪平道路，從而走向 AI 計(jì)算的下一次飛躍。

在 CES 上，NVIDIA 推出了 Rubin 平臺(tái)，該平臺(tái)由六款全新芯片組成，旨在打造一臺(tái)超凡的 AI 超級(jí)計(jì)算機(jī)，專為加速代理式 AI、混合專家模型 (MoE) 以及長上下文推理而設(shè)計(jì)。

Rubin 平臺(tái)通過先進(jìn)的協(xié)同設(shè)計(jì)方法，將六款芯片——NVIDIA Vera CPU、Rubin GPU、NVLink 6 交換機(jī)、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太網(wǎng)交換機(jī)——進(jìn)行了有機(jī)整合，從而加速訓(xùn)練過程并降低推理 token 生成成本。

不論是企業(yè)還是研究環(huán)境，DGX SuperPOD都可作為部署基于 Rubin 系統(tǒng)的基礎(chǔ)架構(gòu)設(shè)計(jì)參考方案。

NVIDIA DGX 平臺(tái)將從 NVIDIA 計(jì)算到網(wǎng)絡(luò)再到軟件的整個(gè)技術(shù)棧整合為一個(gè)統(tǒng)一協(xié)同的系統(tǒng)，消除了基礎(chǔ)設(shè)施集成的負(fù)擔(dān)，使團(tuán)隊(duì)能夠?qū)Ｗ⒂?AI 創(chuàng)新和業(yè)務(wù)成果。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“當(dāng)前訓(xùn)練和推理的 AI 計(jì)算需求不斷激增，Rubin 的問世恰逢其時(shí)?！?/p>

為 AI 產(chǎn)業(yè)革命打造的新平臺(tái)

新 DGX 系統(tǒng)采用的Rubin 平臺(tái)引入了五項(xiàng)重大技術(shù)突破，旨在推動(dòng)智能與效率實(shí)現(xiàn)階躍式提升：

第六代 NVIDIA NVLink——每個(gè) GPU 支持 3.6TB/s 的帶寬，每個(gè) Vera Rubin NVL72 機(jī)架總帶寬達(dá) 260TB/s，可支持大規(guī)模 MoE 與長上下文工作負(fù)載。

NVIDIA Vera CPU——采用了 88 顆 NVIDIA 定制 Olympus 核心打造，完全兼容 Armv9.2，并提供超高速 NVLink-C2C 連接能力，實(shí)現(xiàn)業(yè)界領(lǐng)先的高效 AI 工廠級(jí)計(jì)算能力。

NVIDIA Rubin GPU——搭載具備硬件加速自適應(yīng)壓縮能力的第三代 Transformer 引擎，為 AI 推理提供 50 PFLOPS 的 NVFP4 運(yùn)算能力。

第三代 NVIDIA 機(jī)密計(jì)算——Vera Rubin NVL72 是首個(gè)提供 NVIDIA 機(jī)密計(jì)算的機(jī)架級(jí)平臺(tái)，能夠在 CPU、GPU 和 NVLink 域之間的各個(gè)領(lǐng)域保障數(shù)據(jù)安全。

第二代 RAS 引擎——Rubin 平臺(tái)涵蓋 GPU、CPU 和 NVLink，具有實(shí)時(shí)運(yùn)行狀況檢查、容錯(cuò)機(jī)制和主動(dòng)維護(hù)等功能；采用模塊化無線纜托盤設(shè)計(jì)，使裝配和維護(hù)速度提升 18 倍。

這些創(chuàng)新技術(shù)共同實(shí)現(xiàn)了推理 token 成本最多可降至上一代平臺(tái)的十分之一——隨著 AI 模型在規(guī)模、上下文和推理深度上的不斷擴(kuò)展，這標(biāo)志著一個(gè)關(guān)鍵里程碑。

DGX SuperPOD：為 NVIDIA Rubin 橫向 (Scale-Out) 擴(kuò)展提供藍(lán)圖

基于 Rubin 的 DGX SuperPOD 部署將集成：

NVIDIA DGX Vera Rubin NVL72或DGX Rubin NVL8系統(tǒng)

NVIDIA BlueField- 4 DPU，用于構(gòu)建安全、軟件定義的基礎(chǔ)設(shè)施

NVIDIA 推理上下文記憶存儲(chǔ)平臺(tái)，支持下一代推理工作負(fù)載

NVIDIA ConnectX-9 SuperNIC

NVIDIA Quantum-X800 InfiniBand與NVIDIA Spectrum-X 以太網(wǎng)

NVIDIA Mission Control，用于 AI 基礎(chǔ)設(shè)施的自動(dòng)化編排與運(yùn)維

基于 DGX Vera Rubin NVL72 構(gòu)建的 NVIDIA DGX SuperPOD，整合了八個(gè)DGX Vera Rubin NVL72 系統(tǒng)，配備 576 個(gè) Rubin GPU，可提供 28.8 ExaFlops 的 FP4 性能和 600TB 的高速內(nèi)存。每個(gè) DGX Vera Rubin NVL72 系統(tǒng)集成了 36 個(gè) Vera CPU、72 個(gè) Rubin GPU 和 18 個(gè) BlueField?4 DPU，可在機(jī)架范圍內(nèi)實(shí)現(xiàn)統(tǒng)一內(nèi)存與計(jì)算空間。憑借 260TB/s 的 NVLink 聚合吞吐量，該系統(tǒng)消除了模型切分需求，使整個(gè)機(jī)架能夠作為統(tǒng)一協(xié)同的 AI 引擎運(yùn)行。

基于 DGX Rubin NVL8 系統(tǒng)構(gòu)建的 NVIDIA DGX SuperPOD，由 64 臺(tái) DGX Rubin NVL8 系統(tǒng)組成，搭載了 512 個(gè)Rubin GPU。NVIDIA DGX Rubin NVL8 系統(tǒng)采用液冷架構(gòu)，搭載 x86 CPU，為各類 AI 項(xiàng)目從開發(fā)到部署全流程提供強(qiáng)勁支撐，助力企業(yè)邁入 Rubin 時(shí)代。每臺(tái) DGX Rubin NVL8 配備八塊 NVIDIA Rubin GPU 及第六代 NVLink 技術(shù)，其 NVFP4 浮點(diǎn)運(yùn)算能力較 NVIDIA Blackwell 系統(tǒng)提升 5.5 倍。

面向 AI 工廠的下一代網(wǎng)絡(luò)

Rubin 平臺(tái)通過革命性網(wǎng)絡(luò)架構(gòu)重新定義了數(shù)據(jù)中心，將其打造為高性能 AI 工廠。該平臺(tái)搭載NVIDIA Spectrum-6以太網(wǎng)交換機(jī)、NVIDIA Quantum-X800InfiniBand 交換機(jī)、BlueField-4DPU 及 ConnectX-9 SuperNIC，專為承載全球最龐大的 AI 工作負(fù)載而設(shè)計(jì)。通過將這些創(chuàng)新技術(shù)集成至 NVIDIA DGX SuperPOD，Rubin 平臺(tái)徹底消除了傳統(tǒng)架構(gòu)在擴(kuò)展性、擁塞及可靠性方面的瓶頸。

針對(duì)大規(guī)模集群優(yōu)化的連接性能

新一代 800Gb/s 端到端網(wǎng)絡(luò)套件為 AI 基礎(chǔ)設(shè)施提供兩條專用路徑，無論采用 InfiniBand 還是以太網(wǎng)均能確保峰值效率：

NVIDIA Quantum-X800 InfiniBand：為專用 AI 集群提供業(yè)界最低延遲與最高性能。采用 SHARP v4 (Scalable Hierarchical Aggregation and Reduction Protocol) 及自適應(yīng)路由技術(shù)，將集合通信操作卸載到網(wǎng)絡(luò)。

NVIDIA Spectrum-X 以太網(wǎng)：基于 Spectrum-6 以太網(wǎng)交換機(jī)和 ConnectX-9 SuperNIC 構(gòu)成，該平臺(tái)采用標(biāo)準(zhǔn)以太網(wǎng)協(xié)議，為 AI 工廠提供可預(yù)測(cè)的高性能橫向 (scale-out) 擴(kuò)展與跨區(qū)域 (scale-across) 連接，并針對(duì) AI 工作負(fù)載的“東西向”流量模式進(jìn)行專項(xiàng)優(yōu)化。

打造十億瓦級(jí) AI 工廠

這些創(chuàng)新代表了 Rubin 平臺(tái)的極致協(xié)同設(shè)計(jì)。憑借對(duì)擁塞控制與性能隔離技術(shù)的掌控，NVIDIA 正為下一波十億瓦級(jí) AI 工廠鋪平道路。這種整體化方案確保了當(dāng) AI 模型日益復(fù)雜時(shí)，AI 工廠的網(wǎng)絡(luò)架構(gòu)仍能成為速度的催化劑而非瓶頸。

NVIDIA 軟件推動(dòng) AI 工廠運(yùn)營與部署

NVIDIA Mission Control——專為基于 NVIDIA Blackwell 架構(gòu)的 DGX 系統(tǒng)設(shè)計(jì)的 AI 數(shù)據(jù)中心運(yùn)維與編排軟件——現(xiàn)已支持基于 Rubin 架構(gòu)的 NVIDIA DGX 系統(tǒng)，助力企業(yè)實(shí)現(xiàn)基礎(chǔ)設(shè)施管理的自動(dòng)化與運(yùn)維自動(dòng)化。

NVIDIA Mission Control 可在多方面加速基礎(chǔ)設(shè)施運(yùn)營，涵蓋配置部署、設(shè)施集成、集群管理及工作負(fù)載調(diào)度。

借助智能集成軟件，企業(yè)可更精準(zhǔn)地掌控 NVIDIA Rubin 的冷卻與供電事項(xiàng)，同時(shí)提升基礎(chǔ)設(shè)施彈性。該平臺(tái)通過快速泄漏檢測(cè)實(shí)現(xiàn)更迅捷的響應(yīng)，解鎖 NVIDIA 最新能效創(chuàng)新技術(shù)，并憑借自主恢復(fù)功能最大化 AI 工廠的生產(chǎn)力。

NVIDIA DGX 系統(tǒng)還支持NVIDIA AI Enterprise軟件平臺(tái)，包括NVIDIA NIM，例如用于 NVIDIA Nemotron-3 系列開放模型、數(shù)據(jù)和庫。

DGX SuperPOD：工業(yè) AI 的未來之路

DGX SuperPOD 長期以來一直是大型 AI 基礎(chǔ)設(shè)施的藍(lán)圖。Rubin 平臺(tái)的問世將成為新一代 AI 工廠的起點(diǎn)——這些系統(tǒng)旨在實(shí)現(xiàn)跨數(shù)千步推理，并以顯著降低的成本交付智能，助力企業(yè)構(gòu)建下一代尖端模型、多模態(tài)系統(tǒng)和代理式 AI 應(yīng)用。