GTC 2023直播：英偉達(dá)推出Hopper GPU，速度比PCIE快7倍
針對ChatGPT等大型語言模型的推理，我們宣布推出一款新的Hopper GPU配備雙GPU NVLINK的PCIE H100
同時(shí)還可支持商用PCIE服務(wù)器輕松擴(kuò)展
目前在云上唯一可以實(shí)際處理ChatGPT的GPU是HGX A100與適用于GPT-3處理的HGX A100相比，一臺搭載四對H100及雙GPU NVLINK的標(biāo)準(zhǔn)服務(wù)器的速度
H100可將大型語言模型的處理成本，降低一個數(shù)量級
Grace Hopper非常適合處理大型數(shù)據(jù)集，例如適用于推薦系統(tǒng)和大型語言模型的AI數(shù)據(jù)庫。
如今，利用大容量內(nèi)存，CPU會存儲和查詢巨型嵌入表，然后將結(jié)果傳輸?shù)紾PU進(jìn)行推理，借助Grace-Hopper， Grace可以查詢嵌入表，并將結(jié)果直接傳輸?shù)紿opper速度比PCIE快7倍
GTC 2023主題直播地址：https://t.elecfans.com/live/2302.html
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報(bào)投訴
-
cpu
+關(guān)注
關(guān)注
68文章
11337瀏覽量
226009 -
服務(wù)器
+關(guān)注
關(guān)注
14文章
10377瀏覽量
91777 -
gtc
+關(guān)注
關(guān)注
0文章
75瀏覽量
4776 -
ChatGPT
+關(guān)注
關(guān)注
31文章
1602瀏覽量
10404
發(fā)布評論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
豪言自家芯片比英偉達(dá)GPU強(qiáng)10倍，這家AI公司再獲融資
電子發(fā)燒友網(wǎng)報(bào)道（文 / 吳子鵬）在 AI 算力需求呈指數(shù)級增長的今天，英偉達(dá)憑借其 GPU 和 CUDA 生態(tài)構(gòu)筑的 “護(hù)城河” 似乎堅(jiān)不可摧。然而，一股由前谷歌 TPU 核心工程師組成
圖為科技CEO蘇世鵬受邀出席NVIDIA GTC 2026大會，與英偉達(dá)CEO黃仁勛合影留念！
2026 年英偉達(dá) GTC 全球人工智能與加速計(jì)算大會于美國圣·何塞圓滿落幕。
GPU不是AI的唯一解：英偉達(dá)用Groq LPU證明，推理賽道需要“另一條腿”
? 電子發(fā)燒友網(wǎng)報(bào)道（文/莫婷婷）過去十年，人工智能的爆發(fā)式增長與GPU需求緊密相連。憑借其卓越的并行計(jì)算能力，GPU成為AI算力的絕對代名詞。 ? 然而，英偉達(dá)給出顛覆性的新解。在最
天合光能出席英偉達(dá)GTC 2026大會
當(dāng)?shù)貢r(shí)間3月19日，英偉達(dá)GTC 2026大會在美國加州圣何塞舉行，天合光能出席此次大會。
連接器如何理解GTC 2026大會？
2026 年3月16日，英偉達(dá) GTC 大會再次震撼世界。英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛發(fā)布 Vera Rubin 架構(gòu)，正式宣告
宜鼎亮相英偉達(dá)GTC 2026：智能醫(yī)療、智能車載兩大亮點(diǎn)，展現(xiàn)技術(shù)整合與AI落地實(shí)力
全球邊緣AI解決方案領(lǐng)先品牌宜鼎國際（Innodisk）今年受邀出席在美國圣何塞（San Jose）舉辦的英偉達(dá)（NVIDIA）GTC 2026大會。
新思科技與英偉達(dá)多項(xiàng)硬核科技成果亮相GTC 2026
新思科技（Synopsys, Inc.，納斯達(dá)克股票代碼：SNPS）在英偉達(dá) GTC 2026 大會（NVIDIA GTC 2026）上，展示了其與
NVIDIA新聞：英偉達(dá)10億美元入股諾基亞 英偉達(dá)推出全新量子設(shè)備
研發(fā)并推出相關(guān)產(chǎn)品。 英偉達(dá)CEO黃仁勛出現(xiàn)在美國華盛頓的GTC DC大會上的演講中表示；“今天我們宣布與諾基亞建立了合作關(guān)系，諾基亞是世界第二大電信制造商，這是一個價(jià)值3萬億美元的產(chǎn)
今日看點(diǎn)：蘋果認(rèn)證中國快充品牌遭美調(diào)查；英偉達(dá)擬向OpenAI投資最高1000億美元
系統(tǒng)建設(shè)并部署至少10吉瓦的人工智能（AI）數(shù)據(jù)中心，用于訓(xùn)練和運(yùn)行下一代模型。這一耗電量相當(dāng)于800萬戶美國家庭的用電量。 英偉達(dá)CEO黃仁勛曾表示，10吉瓦相當(dāng)于400萬至500萬塊圖形處理器（GPU），約等于
發(fā)表于 09-23 10:09
?515次閱讀
英偉達(dá)最新B30A芯片曝光：算力角逐中的新變數(shù)
目前允許在中國銷售的H20型號。這一消息瞬間點(diǎn)燃了行業(yè)內(nèi)外的關(guān)注熱情，為本就競爭激烈的AI芯片領(lǐng)域增添了新的變數(shù)。 ? 架構(gòu)升級：站在巨人肩膀上的革新 B30A芯片將基于英偉達(dá)去年GTC大會上發(fā)布的新一代計(jì)算架構(gòu)——Blackw
傳英偉達(dá)自研HBM基礎(chǔ)裸片
"后的下一代AI GPU "Feynman"。 ? 有分析指出，英偉達(dá)此舉或是將部分GPU功能集成到基礎(chǔ)裸片中，旨在提高HBM和GPU的整體
aicube的n卡gpu索引該如何添加？
請問有人知道aicube怎樣才能讀取n卡的gpu索引呢，我已經(jīng)安裝了cuda和cudnn，在全局的py里添加了torch，能夠調(diào)用gpu，當(dāng)還是只能看到默認(rèn)的gpu0，顯示不了gpu1
發(fā)表于 07-25 08:18
英偉達(dá)獲美批準(zhǔn)恢復(fù)H20在華銷售，同步推出全新兼容GPU
7月15日上午，央廣財(cái)經(jīng)記者從英偉達(dá)方面確認(rèn)，英偉達(dá)已經(jīng)獲得美國批準(zhǔn)，將恢復(fù) H20 在中國的銷售，并推
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】+NVlink技術(shù)從應(yīng)用到原理
帶來了總雙向帶寬160GB/s的通訊速率，遠(yuǎn)高于當(dāng)時(shí)的PCIe接口（實(shí)際比現(xiàn)在的PCIe5.0也還要快）。首代的NVlink主要是增強(qiáng)了GPU到GP
發(fā)表于 06-18 19:31
英偉達(dá)擬再推中國特供GPU，今年6月量產(chǎn)！
電子發(fā)燒友網(wǎng)綜合報(bào)道 近年來，美國政府對華半導(dǎo)體出口管制政策不斷收緊，英偉達(dá)等半導(dǎo)體企業(yè)面臨嚴(yán)峻挑戰(zhàn)。為保持在中國市場的競爭力，英偉達(dá)推出了
發(fā)表于 05-27 00:03
?4916次閱讀
評論