日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

千億美元打造一個系統(tǒng),成本越來越高的AI超算

E4Life ? 來源:電子發(fā)燒友 ? 作者:周凱揚(yáng) ? 2024-04-09 00:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/周凱揚(yáng))從近年來新發(fā)布的超算機(jī)器和新的HPC AI性能榜單可以看出,AI算力已經(jīng)在超算中成了不可忽視的性能指標(biāo)之一,但也為廠商帶來了更大的成本挑戰(zhàn)。比如微軟近期就爆出和OpenAI合作,打造一個千億美元級別的超算系統(tǒng)。

千億美元打造AI超算

根據(jù)外媒報道,此次打造的千億美元超算系統(tǒng)名為Stargate,星門。這一超算系統(tǒng)僅僅只是微軟和OpenAI一系列數(shù)據(jù)中心合作項目之一,但造價已經(jīng)高到離譜了。從規(guī)模上看,這個超算的硬件配置已經(jīng)到了遠(yuǎn)超現(xiàn)有系統(tǒng)的程度。據(jù)爆料,星門將集成百億個最新的英偉達(dá)GPU,造價可能會達(dá)到1150億美元。不過在互聯(lián)方案上,微軟可能會跳過英偉達(dá)的InfiniBand專用方案,而采用更加通用以太網(wǎng)方案。

當(dāng)然了,雖然總成本較高,但微軟并沒有一次建成的部署策略,而是分拆成五個階段,整個項目在2028年成功建成。這樣可以盡早讓該系統(tǒng)投入使用,畢竟對于新的模型而言,率先發(fā)布才不會錯失市場機(jī)會。這或許也與微軟采用通用的以太網(wǎng)方案有關(guān),畢竟面對跨度如此長的方案而言,專用方案很可能會面臨被兼容性差和被淘汰的局面。微軟預(yù)計會在第四階段,也就是2026年左右,正式啟用這一超算系統(tǒng)。

除此之外,超算的部署地點依然待定,這無疑與部署地的電網(wǎng)供電能力息息相關(guān),當(dāng)?shù)卣绻芴峁┲С肿匀蛔詈?。不過從硬件規(guī)模來看,單系統(tǒng)的耗電已經(jīng)達(dá)到千兆瓦級,無論是對美國哪個州而言,都是巨大的供電挑戰(zhàn)。也正因如此,微軟正在考慮核能在內(nèi)的其他替代能源方案。

超算部署成本發(fā)生的變化

時至今日,微軟已經(jīng)在OpenAI上花了130億美元,使用其數(shù)據(jù)中心來為ChatGPT之類的應(yīng)用提供硬件支持。但此次的星門項目更是規(guī)模浩大,這也說明了新模型的訓(xùn)練和推理,仍在對數(shù)據(jù)中心的硬件提出新的要求,需要用性能更強(qiáng)的AI超算來解決。

但這并不意味著普遍的超算成本真的有這么夸張的變化,要知道目前TOP500上排名第一的超算Frontier,其成本也只有6億美元。對于科研專用的單個超算系統(tǒng)而言,雖然造價不算低,但在政府的科研經(jīng)費(fèi)支持下,研究機(jī)構(gòu)還是可以負(fù)擔(dān)起的。

不過值得注意的是,TOP500上的超算都有公開的跑分成績,為了實現(xiàn)這樣的成績,需要一定時間的優(yōu)化,再運(yùn)行一段時間的測試才會有此成績。而市面上,尤其是在不少大型互聯(lián)網(wǎng)公司內(nèi)部,也存在并沒有公開提交成績的超算,因為這類系統(tǒng)幾乎是從誕生起就被投入商業(yè)使用了。

所以市面上肯定有超過6億美元的超算系統(tǒng),比如Meta就在幾個月前打造了兩套系統(tǒng),分別集成了2萬個H100 GPU,總成本在10億美元以上。其他的互聯(lián)網(wǎng)公司,諸如國內(nèi)的百度、騰訊等,想必也有龐大的硬件購買計劃。

寫在最后

隨著HPC與AI在需求和計算負(fù)載上的融合,市場趨勢從前幾年的“帶AI功能的HPC系統(tǒng)”變成了“同樣可以用于HPC的AI系統(tǒng)”。但從其規(guī)模來看,對于HPC市場也未嘗不是一件好事,畢竟目前AI超算的商業(yè)價值更高,能夠吸引到更多的投資和補(bǔ)貼,也有望進(jìn)一步推動HPC硬件的革新速度。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    41315

    瀏覽量

    302697
  • HPC
    HPC
    +關(guān)注

    關(guān)注

    0

    文章

    350

    瀏覽量

    25083
  • 超算
    +關(guān)注

    關(guān)注

    1

    文章

    118

    瀏覽量

    9547
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    AMD獲Meta千億美元芯片大單,AI芯片市場格局生變

    GPU的AMD Helios整機(jī)柜服務(wù)器,預(yù)計于今年晚些時候開啟交付。 AMD首席執(zhí)行官蘇姿豐稱,交易價值每吉瓦達(dá)百億美元級別,協(xié)議總金額或600億美元,甚至可能達(dá)到上千億
    的頭像 發(fā)表于 02-26 09:19 ?6065次閱讀
    AMD獲Meta<b class='flag-5'>千億</b><b class='flag-5'>美元</b>芯片大單,<b class='flag-5'>AI</b>芯片市場格局生變

    Vicor助力為在軌AI驅(qū)動通信供電

    AI 賦能衛(wèi)星需要具有越來越高的精密運(yùn)算能力,這需求不斷逼近最新深亞微米 FPGA 和 ASIC 及其供電網(wǎng)絡(luò)的極限。這些高性能處理器對低電壓、大電流供電提出了嚴(yán)苛要求,以實現(xiàn)在軌
    的頭像 發(fā)表于 04-21 16:22 ?917次閱讀
    Vicor助力為在軌<b class='flag-5'>AI</b>驅(qū)動通信供電

    onsemi FDME1034CZT MOSFET:為便攜應(yīng)用量身打造的高性能解決方案

    onsemi FDME1034CZT MOSFET:為便攜應(yīng)用量身打造的高性能解決方案 在如今的電子設(shè)備中,尤其是手機(jī)等便攜設(shè)備,對電源管理和功率轉(zhuǎn)換的要求越來越高。MOSFET作
    的頭像 發(fā)表于 04-16 15:05 ?146次閱讀

    為什么AI數(shù)據(jù)中心越來越依賴電流監(jiān)測?

    隨著人工智能技術(shù)的快速發(fā)展,力需求正在以前所未有的速度增長。從大型語言模型到多模態(tài)AI,再到智能體系統(tǒng)越來越多的應(yīng)用開始依賴高性能計算平臺。 最近
    的頭像 發(fā)表于 03-11 14:07 ?203次閱讀

    邊緣AI力臨界點:深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價值

    邏輯控制器)內(nèi)網(wǎng),另一個網(wǎng)口連接上層管理系統(tǒng)或云端,實現(xiàn)物理級別的網(wǎng)絡(luò)冗余和安全隔離。 3、40Pin擴(kuò)展接口 :這是開發(fā)板的靈魂。AI Station完整引出了I2C, SPI, PWM, UART
    發(fā)表于 03-10 14:19

    內(nèi)存是AI能效提升的下一個前沿領(lǐng)域

    我們正在進(jìn)入新的計算時代。AI 工作負(fù)載的占比越來越高,已成為影響企業(yè)基礎(chǔ)設(shè)施戰(zhàn)略、硅芯片路線圖和業(yè)務(wù)指令的決定性力量。如今的 AI,規(guī)模大到令人咋舌:超大規(guī)模企業(yè)正在部署單個集群中包含數(shù)萬塊
    的頭像 發(fā)表于 02-09 09:47 ?683次閱讀

    為什么原廠越來越需要套自己的 Studio

    過去幾年,在和 MCU 原廠的合作過程中,趨勢越來越明顯: 原廠正在從“只提供芯片”,走向“提供完整使用路徑”。 而 Studio 工具,正好處在這個變化的中心。 、芯片性能已經(jīng)
    發(fā)表于 02-05 09:37

    高速互聯(lián)技術(shù)正在成為AI力發(fā)展的關(guān)鍵基礎(chǔ)設(shè)施

    當(dāng)大模型參數(shù)規(guī)模從百億邁向千億、萬億級,AI 的競爭早已不再只是芯片性能的比拼,而是系統(tǒng)級工程能力的競爭。越來越多行業(yè)共識正在形成:
    的頭像 發(fā)表于 02-04 14:50 ?701次閱讀
    高速互聯(lián)技術(shù)正在成為<b class='flag-5'>AI</b><b class='flag-5'>算</b>力發(fā)展的關(guān)鍵基礎(chǔ)設(shè)施

    特種電子系統(tǒng)也有高溫挑戰(zhàn),電源模塊要求越來越高

    、為何軍工領(lǐng)域迫切需要高溫DC/DC電源模塊? 軍工電子設(shè)備經(jīng)常需要在極端惡劣的環(huán)境下工作,其中高溫是最常見的嚴(yán)酷條件之。高溫DC/DC電源模塊的應(yīng)用場景主要包括: 1.航空航天與飛行器
    的頭像 發(fā)表于 11-20 15:35 ?613次閱讀
    特種電子<b class='flag-5'>系統(tǒng)</b>也有高溫挑戰(zhàn),電源模塊要求<b class='flag-5'>越來越高</b>

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升力還是智力

    新信息的情況下持續(xù)學(xué)習(xí)和改進(jìn)的AI計算方式。 終身短發(fā)怎么保持已有知識和技能的有效性呢 ①知識蒸餾:將已有知識從模型轉(zhuǎn)移到另一個模型 ②知識更新:根據(jù)新知識更新已有知識 ③知識重組
    發(fā)表于 09-14 14:04

    睿海光電領(lǐng)航AI光模塊:快交付與全場景兼容賦能智時代——以創(chuàng)新實力助力全球客戶構(gòu)建高效力底座

    AI力革命催生光模塊新需求,睿海光電以技術(shù)優(yōu)勢搶占制高點 人工智能、超大規(guī)模數(shù)據(jù)中心和云計算的高速發(fā)展,對光模塊的傳輸效率、兼容性及交付周期提出更高要求。作為全球AI光模塊領(lǐng)域的
    發(fā)表于 08-13 19:03

    文看懂AI力集群

    最近這幾年,AI浪潮席卷全球,成為整個社會的關(guān)注焦點。大家在討論AI的時候,經(jīng)常會提到AI力集群。AI的三要素,是
    的頭像 發(fā)表于 07-23 12:18 ?1979次閱讀
    <b class='flag-5'>一</b>文看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b>力集群

    后摩爾時代:芯片不是越來越涼,而是越來越

    1500W,而在消費(fèi)領(lǐng)域,旗艦顯卡RTX5090也首次引入了液態(tài)金屬這更高效但成本更高的熱界面材料(TIM)。為什么芯片越來越熱?它的熱從哪里來?芯片內(nèi)部每一個晶體管
    的頭像 發(fā)表于 07-12 11:19 ?2466次閱讀
    后摩爾時代:芯片不是<b class='flag-5'>越來越</b>涼,而是<b class='flag-5'>越來越</b>燙

    Intel至強(qiáng)6:AI江湖的幕后大佬、NVIDIA B300的唯伙伴

    隨著生成式AI、預(yù)測式AI的浪潮波高過波,工作負(fù)載的類型越來越豐富、復(fù)雜度越來越高,對于
    的頭像 發(fā)表于 06-19 16:37 ?871次閱讀
    Intel至強(qiáng)6:<b class='flag-5'>AI</b>江湖的幕后大佬、NVIDIA B300的唯<b class='flag-5'>一</b>伙伴

    加速卡是什么東西?它真能在AI戰(zhàn)場上干掉GPU和TPU!

    隨著AI技術(shù)火得塌糊涂,大家都在談"大模型"、"AI加速"、"智能計算",可真到了落地環(huán)節(jié),力才是硬通貨。你有沒有發(fā)現(xiàn),現(xiàn)在越來越多的
    的頭像 發(fā)表于 06-05 13:39 ?1937次閱讀
    智<b class='flag-5'>算</b>加速卡是什么東西?它真能在<b class='flag-5'>AI</b>戰(zhàn)場上干掉GPU和TPU!
    姚安县| 周宁县| 永修县| 合阳县| 泽普县| 社会| 周宁县| 阿尔山市| 白城市| 贵溪市| 四会市| 汉寿县| 枞阳县| 长汀县| 安泽县| 博野县| 聂荣县| 涟源市| 漳州市| 乌苏市| 东阳市| 宜丰县| 始兴县| 鄂托克前旗| 八宿县| 武义县| 北海市| 班戈县| 元江| 湖南省| 靖边县| 满洲里市| 寿阳县| 林口县| 荆门市| 永福县| 定远县| 高台县| 昌江| 环江| 华安县|