谷歌 DeepMind 與谷歌研究團(tuán)隊所使用的 NVIDIA 生成式 AI 技術(shù)已經(jīng)過優(yōu)化，現(xiàn)可供全球谷歌云客戶使用

Google Cloud Next— 2023 年 8 月 29 日 — 谷歌云（Google Cloud）與 NVIDIA 于今日宣布推出全新 AI 基礎(chǔ)設(shè)施和軟件，幫助客戶構(gòu)建和部署用于生成式 AI 的大規(guī)模模型，加快數(shù)據(jù)科學(xué)工作負(fù)載的速度。

在 Google Cloud Next 的爐邊談話中，谷歌云首席執(zhí)行官 Thomas Kurian 與 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛討論了雙方合作如何為全球一些最大的 AI 客戶提供端到端的機(jī)器學(xué)習(xí)服務(wù)，包括通過基于 NVIDIA 技術(shù)構(gòu)建的谷歌云產(chǎn)品輕松運(yùn)行 AI 超級計算機(jī)。新的軟硬件集成將使用谷歌 DeepMind 和谷歌研究團(tuán)隊在過去兩年中所采用的 NVIDIA 技術(shù)。

黃仁勛表示：“我們正處于一個拐點，加速計算與生成式 AI 的組合將以前所未有的速度推動創(chuàng)新。此次擴(kuò)大與谷歌云的合作，將幫助開發(fā)者通過能源效率提升同時降低成本的基礎(chǔ)設(shè)施、軟件和服務(wù)加快工作速度?！?/p>

Kurian 表示：“谷歌云很久以前就開始通過 AI 領(lǐng)域的創(chuàng)新推動和加速客戶創(chuàng)新。谷歌的眾多產(chǎn)品都是在NVIDIA GPU上構(gòu)建和提供的，我們的許多客戶都想要通過 NVIDIA 加速計算提升大語言模型（LLM）的開發(fā)效率，以推進(jìn)生成式 AI 的發(fā)展。”

加快 AI 和數(shù)據(jù)科學(xué)發(fā)展的 NVIDIA 集成

谷歌用于構(gòu)建大規(guī)模大語言模型（LLM）的框架——PaxML，現(xiàn)已針對 NVIDIA 加速計算進(jìn)行了優(yōu)化。

PaxML 最初是為覆蓋多個谷歌 TPU 加速器片而構(gòu)建的?，F(xiàn)在，PaxML 助力開發(fā)者使用NVIDIA H100和A100 Tensor Core GPU進(jìn)行高級、完全可配置的實驗與擴(kuò)展。經(jīng) GPU 優(yōu)化的 PaxML 容器可在NVIDIA NGC軟件目錄中即刻獲得。另外，PaxML 還可在 JAX 上運(yùn)行，JAX 使用 OpenXLA 編譯器針對 GPU 進(jìn)行了優(yōu)化。

谷歌 DeepMind 和其他谷歌研究員是首批將 PaxML 與 NVIDIA GPU 一起用于探索性研究的人。

很快，NVIDIA 針對 PaxML 優(yōu)化的容器就會在 NVIDIA NGC 容器注冊表上向全球正在構(gòu)建下一代 AI 應(yīng)用的研究員、初創(chuàng)公司和企業(yè)開放。

此外，兩家公司還宣布谷歌通過 Dataproc 服務(wù)將 serverless Spark 與 NVIDIA GPU 進(jìn)行集成。這將幫助數(shù)據(jù)科學(xué)家加速 Apache Spark 工作負(fù)載，為 AI 開發(fā)準(zhǔn)備數(shù)據(jù)。

以下這些新的集成是 NVIDIA 與谷歌長期廣泛合作的最新成果，涵蓋了硬件和軟件領(lǐng)域，包括：

• 由 NVIDIA H100 驅(qū)動的谷歌云 A3 虛擬機(jī)：谷歌宣布，由 NVIDIA H100 GPU 驅(qū)動的谷歌云 A3 虛擬機(jī)將于下月全面上市，這將使 NVIDIA 的 AI 平臺能夠更加方便地被用于各種工作負(fù)載。與上一代產(chǎn)品相比，A3 虛擬機(jī)的訓(xùn)練速度提高了 3 倍，網(wǎng)絡(luò)帶寬也顯著提升。

• NVIDIA H100 GPU 將為谷歌云 Vertex AI 平臺提供動力：H100 GPU 預(yù)計將在未來幾周內(nèi)通過 Vertex AI 全面上市，幫助客戶快速開發(fā)生成式 AI 大語言模型（LLM）。

• 谷歌云將獲得 NVIDIA DGX GH200 訪問權(quán)限：谷歌云將是全球首批獲得NVIDIA DGX GH200 AI 超級計算機(jī)（搭載NVIDIA Grace Hopper 超級芯片）訪問權(quán)限的公司之一，將率先探索其在生成式 AI 工作負(fù)載方面的能力。

• NVIDIA DGX 云將登陸谷歌云：客戶可直接通過網(wǎng)絡(luò)瀏覽器使用NVIDIA DGX 云AI 超級計算和軟件，體驗高級訓(xùn)練工作負(fù)載所需的速度和規(guī)模。

• NVIDIA AI Enterprise 將登陸谷歌云市場：NVIDIA AI Enterprise是一個安全的云原生軟件平臺，可簡化生成式 AI、語音 AI、計算機(jī)視覺等企業(yè)就緒型應(yīng)用的開發(fā)和部署。

• 谷歌云將率先提供 NVIDIA L4 GPU：今年早些時候，谷歌云推出了 G2 虛擬機(jī)，成為首家提供 NVIDIA L4 Tensor Core GPU 的云供應(yīng)商。NVIDIA 客戶在將 AI 視頻工作負(fù)載從 CPU 切換到 L4 GPU 后，可提升高達(dá) 120 倍的性能和 99% 的效率。L4 GPU 廣泛用于圖像和文本生成，以及 VDI 和 AI 加速的音頻/視頻轉(zhuǎn)碼。