亞馬遜云科技（AWS）將 NVIDIA NVLink Fusion 集成到其定制芯片中，包括新一代 Tranium4 芯片、Graviton 和 AWS Nitro System。

在 AWS re:Invent 上，NVIDIA 和亞馬遜云科技 (AWS) 擴(kuò)展了戰(zhàn)略合作，在互連技術(shù)、云基礎(chǔ)設(shè)施、開放模型和物理 AI 方面實現(xiàn)了新的技術(shù)集成。

作為此次戰(zhàn)略合作拓展的一部分，AWS 將支持NVIDIA NVLink FusionAI 基礎(chǔ)架構(gòu)平臺，用于其定制設(shè)計的芯片，包括用于推理和代理式 AI 模型訓(xùn)練的新一代 Trainium4 芯片、用于各種工作負(fù)載的 Graviton CPU 以及 Nitro System 虛擬化基礎(chǔ)架構(gòu)。

使用 NVIDIA NVLink Fusion，AWS將 NVIDIA NVLink 縱向擴(kuò)展 (scale-up) 互連、 NVIDIA MGX 機(jī)架架構(gòu)和 AWS 定制芯片相結(jié)合 ，可顯著提高性能并加快其新一代云規(guī)模 AI 功能的上市時間。

AWS 正在設(shè)計 Trainium4 以與 NVLink 和 NVIDIA MGX 集成，這是 NVIDIA 和 AWS 使用 NVLink Fusion 技術(shù)開展多代協(xié)作的第一代產(chǎn)品。

AWS 已使用 NVIDIA GPU 大規(guī)模部署 MGX 機(jī)架。集成 NVLink Fusion 將使 AWS 能夠進(jìn)一步簡化其平臺的部署和系統(tǒng)管理。

AWS 還可以利用 NVLink Fusion 供應(yīng)商生態(tài)系統(tǒng)，該生態(tài)系統(tǒng)提供從機(jī)架、機(jī)箱、電源到冷卻系統(tǒng)的整機(jī)架部署所需的全部組件。

通過支持 AWS 的 Elastic Fabric Adapter 和 Nitro System，AWS 上的 NVIDIA Vera Rubin 架構(gòu)將為客戶提供靈活的網(wǎng)絡(luò)選擇，同時保持與 AWS 云基礎(chǔ)設(shè)施的完全兼容性，并加速新 AI 服務(wù)的推出。

“GPU 計算需求飛速增長 — — 更多的計算使 AI 變得更智能，更智能的 AI 推動了更廣泛的應(yīng)用，而更廣泛的應(yīng)用創(chuàng)造了對更多計算的需求。AI 的良性循環(huán)已經(jīng)到來，”NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示。“隨著 NVIDIA NVLink Fusion 應(yīng)用于 AWS Trainium4，我們正在將縱向擴(kuò)展架構(gòu)與 AWS 的定制芯片相結(jié)合，以打造新一代加速平臺。NVIDIA 和 AWS 正攜手為 AI 工業(yè)革命構(gòu)建計算網(wǎng)絡(luò)架構(gòu)，為每個國家地區(qū)的每家企業(yè)帶來先進(jìn)的 AI 技術(shù)，并加速全球智能化進(jìn)程?！?/p>

亞馬遜云科技首席執(zhí)行官 Matt Garman 表示：“亞馬遜云科技和 NVIDIA 已經(jīng)并肩合作超過 15 年，今天標(biāo)志著這一旅程中的一個新里程碑。我們正與 NVIDIA 一起推進(jìn)大規(guī)模 AI 基礎(chǔ)設(shè)施的發(fā)展，為客戶提供更高的性能、效率和可擴(kuò)展性。AWS Trainium4、Graviton 和 Nitro System 即將支持 NVIDIA NVLink Fusion，這將為客戶帶來新的能力 ，使他們能夠以前所未有的速度開展創(chuàng)新?！?/p>

規(guī)模與主權(quán)的融合

AWS 已通過 NVIDIA Blackwell 架構(gòu)擴(kuò)展其加速計算產(chǎn)品組合，使客戶能夠立即使用業(yè)界最先進(jìn)的 GPU 進(jìn)行訓(xùn)練和推理。

這些 GPU 構(gòu)成了 AWS 基礎(chǔ)設(shè)施主干的一部分，為 AWS AI Factories 提供動力支持。AWS AI Factories 是一款新的 AI 云產(chǎn)品，將為全球客戶提供所需的專用基礎(chǔ)設(shè)施，使其能夠在自己的數(shù)據(jù)中心 (由 AWS 運(yùn)營) 中利用先進(jìn)的 AI 服務(wù)和功能，同時還能讓客戶保持對自有數(shù)據(jù)的掌控并遵守當(dāng)?shù)胤ㄒ?guī)。

NVIDIA 和 AWS 致力于在全球部署主權(quán) AI 云，并為世界帶來出色的 AI 創(chuàng)新。隨著 AWS AI Factories 的推出，兩家公司正在提供安全的主權(quán) AI 基礎(chǔ)設(shè)施，為世界各地的機(jī)構(gòu)提供前所未有的計算能力，滿足日益嚴(yán)格的主權(quán) AI 需求。

對于公共部門機(jī)構(gòu)而言，AWS AI Factories 將改變超級計算和 AI 格局。AWS AI Factories 客戶將能夠?qū)?AWS 業(yè)界領(lǐng)先的云基礎(chǔ)設(shè)施和服務(wù) (以其可靠性、安全性和可擴(kuò)展性而聞名) 與 NVIDIA Blackwell GPU 和包括NVIDIA Spectrum-X以太網(wǎng)交換機(jī)在內(nèi)的全棧 NVIDIA 加速計算平臺無縫集成。

統(tǒng)一的架構(gòu)將確?？蛻裟軌蛟L問先進(jìn)的 AI 服務(wù)和功能，以及訓(xùn)練和部署大規(guī)模模型，同時保持對專有數(shù)據(jù)的充分掌控，并完全遵守當(dāng)?shù)乇O(jiān)管框架。

NVIDIA Nemotron 與 Amazon Bedrock 的集成擴(kuò)展了軟件優(yōu)化

除了硬件之外，此次合作還擴(kuò)展了 NVIDIA 軟件堆棧與 AWS AI 生態(tài)系統(tǒng)的集成。NVIDIA Nemotron開放模型現(xiàn)已集成至Amazon Bedrock，使客戶能夠以生產(chǎn)規(guī)模構(gòu)建生成式 AI 應(yīng)用和智能體。開發(fā)者可以使用 Nemotron Nano 2 和 Nemotron Nano 2 VL 構(gòu)建專用的代理式 AI 應(yīng)用，高效、準(zhǔn)確地處理文本、代碼、圖像和視頻。

該集成使高性能、開放的 NVIDIA 模型可以通過 Amazon Bedrock 的無服務(wù)器平臺即時獲取，客戶可依托其經(jīng)驗證的可擴(kuò)展性并免于基礎(chǔ)設(shè)施管理。行業(yè)領(lǐng)導(dǎo)者CrowdStrike和BridgeWise率先使用該服務(wù)部署專門的 AI 智能體。

AWS 上的 NVIDIA 軟件可簡化開發(fā)者體驗

NVIDIA 和 AWS 還在軟件層進(jìn)行協(xié)同開發(fā)，以加速每個企業(yè)的數(shù)據(jù)主干。Amazon OpenSearch Service現(xiàn)在為向量索引構(gòu)建提供無服務(wù)器 GPU 加速NVIDIA cuVS，一個用于 GPU 加速向量搜索和數(shù)據(jù)聚類的開源庫。這一里程碑標(biāo)志著使用 GPU 進(jìn)行非結(jié)構(gòu)化數(shù)據(jù)處理的根本性轉(zhuǎn)變，早期采用者僅以四分之一的成本就將向量索引速度提升至原來的 10 倍。

這些顯著提升可減少搜索延遲、加速寫入，并在需要時精確提供適量的 GPU 性能，從而提高檢索增強(qiáng)生成等動態(tài) AI 技術(shù)的生產(chǎn)力。AWS 是率先使用 NVIDIA GPU 提供無服務(wù)器向量索引的主要云提供商。

生產(chǎn)就緒型 AI 智能體需要性能可視化、優(yōu)化和可擴(kuò)展的基礎(chǔ)設(shè)施。通過結(jié)合用于智能體開發(fā)和編排的Strands Agents、用于深度分析和性能調(diào)優(yōu)的NVIDIA NeMo Agent Toolkit，以及實現(xiàn)安全、可擴(kuò)展的智能體基礎(chǔ)設(shè)施的Amazon Bedrock AgentCore，組織可以為開發(fā)者提供從原型到生產(chǎn)的完整、可預(yù)測的路徑。

這種擴(kuò)展的支持建立在 AWS 與 NVIDIA 技術(shù)的現(xiàn)有集成之上，包括NVIDIA NIM，以及NVIDIA Riva和NVIDIA BioNeMo等框架，還有與 Amazon SageMaker 和 Amazon Bedrock 集成的模型開發(fā)工具，使組織能夠比以往更快地部署代理式 AI、語音 AI 和科學(xué)應(yīng)用。

借助 AWS 加速物理 AI

開發(fā)物理 AI的過程需要高質(zhì)量和多樣化的數(shù)據(jù)集來訓(xùn)練機(jī)器人模型，以及在實際部署之前在仿真中進(jìn)行測試和驗證的框架。

NVIDIA Cosmos世界基礎(chǔ)模型 (WFM) 現(xiàn)已推出Amazon EKS 上的 NVIDIA NIM 微服務(wù)，從而實現(xiàn)實時機(jī)器人控制和仿真工作負(fù)載具有無縫可靠性和云原生效率。適用于基于批處理的任務(wù)和離線工作負(fù)載，例如大規(guī)模合成數(shù)據(jù)生成Cosmos WFM 也可作為容器在 AWS Batch 上使用。

然后，Cosmos 生成的世界狀態(tài)可用于使用開源仿真和學(xué)習(xí)框架 ，例如NVIDIA Isaac Sim和Isaac Lab。

Agility Robotics、Agile Robots、ANYbotics、Diligent Robotics、Dyna Robotics、Field AI、Haply Robotics、Lightwheel、RIVR 和 Skild AI 等領(lǐng)先的機(jī)器人公司正在將 NVIDIA Isaac 平臺與 AWS 結(jié)合使用，用于收集、存儲和處理機(jī)器人生成的數(shù)據(jù)以及用于擴(kuò)展機(jī)器人開發(fā)的訓(xùn)練和仿真等用例。

持續(xù)協(xié)作

憑借多年的持續(xù)合作，NVIDIA 贏得了 AWS 全球生成式 AI 基礎(chǔ)設(shè)施和數(shù)據(jù)合作伙伴年度大獎，該獎項旨在表彰具備生成式 AI 能力的優(yōu)秀技術(shù)合作伙伴，這些能力支持向量嵌入、數(shù)據(jù)存儲和管理，或生成多種類型和格式的合成數(shù)據(jù)。