微軟 Azure AI 基礎(chǔ)設(shè)施是微軟擴(kuò)展產(chǎn)品和服務(wù)的核心支柱，為開發(fā)人員提供在 Azure 平臺(tái)上構(gòu)建下一代 AI 驅(qū)動(dòng)的應(yīng)用程序所需的系統(tǒng)、工具和資源。

微軟在硬件和 AI 基礎(chǔ)設(shè)施上的早期投資，正在幫助客戶將 AI 的高效和創(chuàng)新變現(xiàn)為業(yè)務(wù)價(jià)值。借力 AI，用戶可以創(chuàng)造更豐富的用戶體驗(yàn)，推動(dòng)創(chuàng)新，提高業(yè)務(wù)生產(chǎn)力。

微軟 Azure AI 基礎(chǔ)設(shè)施能夠支持全球可擴(kuò)展，且未來微軟仍將對(duì)其進(jìn)行持續(xù)投資與擴(kuò)展。現(xiàn)在，微軟推出了 ND H100 v5 虛擬機(jī)系列，這款虛擬機(jī)配備了 NVIDIA H100 Tensor Core 圖形處理單元（GPU）和低延遲網(wǎng)絡(luò)，推動(dòng)企業(yè)步入 AI 應(yīng)用新時(shí)代。

前所未有的 AI 處理和規(guī)模

ND H100 v5 虛擬機(jī)系列發(fā)布

微軟全新發(fā)布Azure ND H100 v5 虛擬機(jī)（VM）系列，現(xiàn)已在美國(guó)東部和美國(guó)中南部 Azure 區(qū)域提供。該系列配備了最新的 NVIDIA H100 Tensor Core GPU 和 NVIDIA Quantum-2 InfiniBand 網(wǎng)絡(luò)。憑借在超級(jí)計(jì)算性能和規(guī)模方面的豐富經(jīng)驗(yàn)，微軟精心設(shè)計(jì)的 ND H100 v5 系列虛擬機(jī)，用于應(yīng)對(duì)先進(jìn)的 AI 工作負(fù)載帶來的日益增加的復(fù)雜性。作為微軟在 AI 領(lǐng)域深入和持續(xù)投資的一部分，微軟正在利用一個(gè) AI 優(yōu)化的 4K GPU 集群，并將在明年將其擴(kuò)展到數(shù)十萬個(gè)全新的 GPU。

ND H100 v5 VM 虛擬機(jī)系列具有以下特性：

• AI 超級(jí)計(jì)算 GPU：配備了八個(gè) NVIDIA H100 Tensor Core GPU。比起上一代虛擬機(jī)，該系列可讓 AI 模型顯著提速，為企業(yè)提供無與倫比的計(jì)算能力。

• 新一代計(jì)算機(jī)處理單元（CPU）：CPU 性能對(duì)于 AI 的訓(xùn)練和推理至關(guān)重要，微軟選擇了第四代 Intel Xeon Scalable 處理器，確保虛擬機(jī)達(dá)到最佳的處理速度。

• 低延遲網(wǎng)絡(luò)：采用 NVIDIA Quantum-2 ConnectX-7 InfiniBand，每個(gè) GPU 擁有 400Gb/s、每個(gè) VM 擁有 3.2 Tb/s 的跨節(jié)點(diǎn)帶寬，確保 GPU 間的無縫性能，堪稱全球頂級(jí)的超級(jí)計(jì)算機(jī)。

• 優(yōu)化主機(jī)到 GPU 的性能：通過PCIe Gen5提供每個(gè)GPU 64GB/s的帶寬，Azure在CPU和GPU之間具有顯著的性能優(yōu)勢(shì)。

• 大規(guī)模的內(nèi)存和內(nèi)存帶寬：DDR5 內(nèi)存是該系列虛擬機(jī)的核心，提供更高的數(shù)據(jù)傳輸速度和效率，使它們成為處理大規(guī)模數(shù)據(jù)集工作負(fù)載的理想選擇。

該系列虛擬機(jī)已經(jīng)證明了它們的性能優(yōu)勢(shì)，使用新的8位 FP8 浮點(diǎn)數(shù)據(jù)類型進(jìn)行矩陣乘法操作時(shí)，速度提升了六倍，比前一代的 FP16 更快。ND H100 v5 VM 幫助大型語言模型（如 BLOOM 175B 端到端模型）實(shí)現(xiàn)了最高兩倍的推理速度提升，驗(yàn)證了它們進(jìn)一步優(yōu)化 AI 應(yīng)用的潛力。

由 Azure AI 基礎(chǔ)設(shè)施支持的人工智能，具有推動(dòng)從制造到零售、從金融服務(wù)到醫(yī)療保健等各行各業(yè)發(fā)展的潛力。