日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

異構(gòu)+Chiplet—通往數(shù)據(jù)中心的能效之路

奇異摩爾 ? 來源:奇異摩爾 ? 2023-06-21 15:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著以大模型為代表的AIGC迅速崛起,數(shù)據(jù)到算力需求的持續(xù)暴漲,為數(shù)據(jù)中心帶來了巨大的考驗。為填補算力鴻溝,下一代數(shù)據(jù)中心必須要具備更高的算力密度、更大的網(wǎng)絡(luò)規(guī)模,并能夠靈活地部署和更新海量新應(yīng)用。

在這一輪新的技術(shù)方向中,異構(gòu)計算架構(gòu)和Chiplet技術(shù)因能有效提升復(fù)雜場景計算效率,算力密度和網(wǎng)絡(luò)規(guī)模,被普遍視為通往數(shù)據(jù)中心未來的能效之路。

AIGC或?qū)⑺洪_數(shù)據(jù)中心算力缺口

在AI大模型飛速發(fā)展之下,單個大語言訓(xùn)練驅(qū)動AI訓(xùn)練服務(wù)器需求約2億美元,AI推理服務(wù)器方面,如ChatGPT在初期便可帶動推理服務(wù)器需求約45億美元。

據(jù)中國信通院,2021年國內(nèi)IDC市場規(guī)模1500.2億元,同比增長28.5%。據(jù)信通院預(yù)計,隨著我國各地區(qū)、各行業(yè)數(shù)字化轉(zhuǎn)型深入推進、AI訓(xùn)練需求持續(xù)增長、智能終端實時計算需求增長,2022年國內(nèi)市場規(guī)模將達1900.7億元,同增26.7%。

算力作為大模型的核心引擎,計算方式簡單粗暴,即實際擁有多少的GPU芯片,將直接決定其算力的大小。以ChatGPT為例,其模型計算主要基于微軟的Azure云服務(wù)進行,本質(zhì)上是借助微軟自有的IDC資源,在云端完成計算過程后,再將結(jié)果返回給OpenAI。

AIGC所需的算力不是固定的,而是逐次遞增的。數(shù)據(jù)中心是承接AI計算需求的直接形式,其算力需求為AIGC的能力所驅(qū)動,也就是AIGC越聰明,其背后所需要的算力就越多,而供需雙方存在的現(xiàn)實差距,則讓數(shù)據(jù)中心的算力缺口變得愈加嚴重。

互聯(lián)網(wǎng)廠商布局ChatGPT同類產(chǎn)品,或?qū)⒓哟蠛诵某鞘蠭DC算力供給缺口。艾瑞咨詢數(shù)據(jù)顯示,2021年國內(nèi)IDC行業(yè)下游客戶占比中,互聯(lián)網(wǎng)廠商居首位,占比為60%,國內(nèi)核心城市IDC算力供給缺口或?qū)⒓哟蟆?/p>

AIGC時代,智能算力崛起

隨著人工智能進入新的發(fā)展周期,以及大模型的興起,傳統(tǒng)的芯片需求結(jié)構(gòu)發(fā)生了變化。盡管總體算力仍在增長,但通用計算力由CPU主導(dǎo)的比例正在下降,而智能計算力由GPU主導(dǎo)的比例逐漸增加。

目前,GPU在AI芯片市場的占比約為90%。根據(jù)VMR的數(shù)據(jù),2021年全球GPU行業(yè)市場規(guī)模為334.7億美元,隨著大型模型訓(xùn)練的成熟,預(yù)計到2030年將達到4773.7億美元,年均增長率為34.35%。

新華三集團副總裁、計算存儲產(chǎn)品線總裁徐潤安在接受媒體采訪時表示,智能算力占比變大原因在于,x86架構(gòu)CPU單核性能強、通用性好。但AI場景需要多核、高并發(fā)、高帶寬芯片。綜合考慮成本、效率,GPU、DPU、NPU通常表現(xiàn)更好。CPU部分職能被其他專用芯片分擔(dān)。在他看來,大模型會帶來巨大的智能算力消耗。

Chiplet:破局數(shù)據(jù)中心未來

近20年中,單一的制程微縮已被證明無法趕上對性能需求的步伐。尤其是在數(shù)據(jù)中心,情況遠比客戶端產(chǎn)品更為復(fù)雜,一個非常典型的情況是多個客戶端在同一產(chǎn)品上運行工作負載,如多核CPU或GPU。于是,人們開始將未來依托在將計算單元、內(nèi)存等和其他模塊成在同一封裝上的Chiplet異構(gòu)集成路線之上。

Chiplet架構(gòu)對于服務(wù)器處理器而言意義非凡,大大降低了處理器的開發(fā)門檻和成本,起到了巨大的推動作用。正如AMD開創(chuàng)性的chiplet產(chǎn)品所證明的那樣,轉(zhuǎn)向chiplet技術(shù)可以顯著改善數(shù)據(jù)中心的計算成本,并提高互連效率。迄今,全球主流服務(wù)器芯片廠商都開始將chiplet納入自身產(chǎn)品的主要路徑之一。

就此,英特爾 IO 技術(shù)解決方案團隊戰(zhàn)略家Kurt Lender 總結(jié)了 chiplet 技術(shù)的影響“有合理的預(yù)期,未來 10 年的 HPC 采購將利用 chiplet 技術(shù)更好地支持他們的科學(xué)工作負載。” AMD 的 CEO Lisa Su也表現(xiàn)出了同樣的期待,當被問及她是否認為未來 10 年的 HPC 采購指定定制chiplet設(shè)計的計算芯片而不是現(xiàn)成的商品時,她回答“是”。

Kurt Lender 表示,創(chuàng)建基于 UCIe 的chiplet 設(shè)計在成本方面具有顯著的優(yōu)勢,“有各種縱向擴展和橫向擴展的成本優(yōu)勢,包括由于與單片硅設(shè)計相比占地面積更小而導(dǎo)致chiplet的高良率而節(jié)省的成本,以及能夠指定可以利用 HPC 冷卻功能的高密度、高功率封裝。在其最完整的表達中,基于chiplet 的架構(gòu)使設(shè)計人員能夠?qū)碜远鄠€供應(yīng)商的 IP 和不同職稱工藝技術(shù)的芯粒快速集成到一個封裝中?!?/p>

關(guān)于隨著以大模型為代表的人工智能大規(guī)模計算的迅速崛起,數(shù)據(jù)中心的算力難題不斷加劇。而異構(gòu)和Chiplet會將數(shù)據(jù)中心的未來引向何處,還讓我們拭目以待。???????




審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    307

    瀏覽量

    6563
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1253

    瀏覽量

    10296
  • chiplet
    +關(guān)注

    關(guān)注

    6

    文章

    499

    瀏覽量

    13659
  • 奇異摩爾
    +關(guān)注

    關(guān)注

    0

    文章

    85

    瀏覽量

    4076
  • ChatGPT
    +關(guān)注

    關(guān)注

    31

    文章

    1602

    瀏覽量

    10404
  • 先進封裝
    +關(guān)注

    關(guān)注

    2

    文章

    565

    瀏覽量

    1065
  • 芯粒
    +關(guān)注

    關(guān)注

    1

    文章

    88

    瀏覽量

    453

原文標題:異構(gòu)+Chiplet,通往數(shù)據(jù)中心的能效之路

文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    斯丹電子 | 數(shù)據(jù)中心傳感器應(yīng)用工程指南

    數(shù)據(jù)中心的冷卻、安全防護、供電與優(yōu)化。傳感器如何賦高能數(shù)據(jù)中心?一本工程指南講清楚:
    發(fā)表于 04-20 14:58 ?0次下載

    青智ZW3432B1數(shù)據(jù)中心電源管理系統(tǒng)監(jiān)控方案

    人機界面,實時監(jiān)測末端服務(wù)器的用情況和電能質(zhì)量數(shù)據(jù),從而實現(xiàn)對整個配電系統(tǒng)的實時監(jiān)控。同時可實現(xiàn)配電精細的分析,為配電網(wǎng)絡(luò)和服務(wù)器運行
    的頭像 發(fā)表于 03-24 17:29 ?600次閱讀
    青智ZW3432B1<b class='flag-5'>數(shù)據(jù)中心</b>電源管理系統(tǒng)監(jiān)控方案

    數(shù)據(jù)中心電站遠程監(jiān)控管理系統(tǒng)方案

    在全球數(shù)字經(jīng)濟與綠色能源轉(zhuǎn)型的雙重驅(qū)動下,數(shù)據(jù)中心作為算力基礎(chǔ)設(shè)施的核心,其供電安全與管理日益成為關(guān)鍵議題。儲電站作為數(shù)據(jù)中心電力保障
    的頭像 發(fā)表于 02-11 15:11 ?344次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>儲<b class='flag-5'>能</b>電站遠程監(jiān)控管理系統(tǒng)方案

    1分鐘帶你了解數(shù)據(jù)中心供電架構(gòu) #電子元器件 #數(shù)據(jù)中心 #供電架構(gòu)

    數(shù)據(jù)中心
    沛城芯動力
    發(fā)布于 :2026年02月03日 15:39:04

    安森美多系列功率器件產(chǎn)品助力突破AI數(shù)據(jù)中心瓶頸

    隨著 AI 算力需求的爆發(fā)式增長,數(shù)據(jù)中心正面臨功率密度激增、能耗加劇及行業(yè)效率標準日趨嚴苛的多重考驗。作為功率器件領(lǐng)域的領(lǐng)導(dǎo)廠商,安森美(onsemi)如何助力客戶突破瓶頸,以下通過安森美專家的核心回復(fù),快速聚焦公司的技術(shù)
    的頭像 發(fā)表于 01-24 17:04 ?2444次閱讀

    安科瑞多回路電表對工業(yè)提升的計劃與數(shù)據(jù)中心分級計量指南

    1、概述 到2025 年,工業(yè)行業(yè)提升,數(shù)據(jù)中心等領(lǐng)域明顯提升,綠色低碳能源利用比例顯著提高,節(jié)能提
    的頭像 發(fā)表于 01-23 16:46 ?730次閱讀

    新思科技ZeBu助力富士通數(shù)據(jù)中心創(chuàng)新

    全球企業(yè)和政府正積極尋求解決方案,應(yīng)對數(shù)據(jù)中心能耗迅速增長問題,開發(fā)下一代“綠色”數(shù)據(jù)中心——既具備高性能,又兼具高能的設(shè)施。全球科技巨頭富士通在先進處理器開發(fā)領(lǐng)域已領(lǐng)先 60 年,致力于開發(fā)更節(jié)能、更可持續(xù)的
    的頭像 發(fā)表于 12-17 10:26 ?893次閱讀

    氮化硼TIM材料解決AI數(shù)據(jù)中心困境 | 晟鵬科技

    AI算力爆發(fā)的“熱情”與困境人工智能技術(shù)的飛速發(fā)展推動全球進入智能算力時代。ChatGPT、Sora等大模型的廣泛應(yīng)用,使得數(shù)據(jù)中心的計算需求呈指數(shù)級增長。單個AI訓(xùn)練服務(wù)器的功率密度已突破千瓦
    的頭像 發(fā)表于 09-22 07:30 ?1051次閱讀
    氮化硼TIM材料解決AI<b class='flag-5'>數(shù)據(jù)中心</b>的<b class='flag-5'>能</b><b class='flag-5'>效</b>困境 | 晟鵬科技

    金升陽如何破解數(shù)據(jù)中心供電難題

    數(shù)據(jù)中心的龐大能耗版圖中,服務(wù)器作為核心業(yè)務(wù)載體,其電力消耗占比突出且對供電穩(wěn)定性、持續(xù)性有著極高要求。而電源作為能源轉(zhuǎn)換的關(guān)鍵零部件,其表現(xiàn)直接決定著數(shù)據(jù)中心的能源利用效率。
    的頭像 發(fā)表于 09-01 14:42 ?1157次閱讀
    金升陽如何破解<b class='flag-5'>數(shù)據(jù)中心</b>供電難題

    氮化硼有“涼”方,解決AI數(shù)據(jù)中心困境 | 晟鵬科技

    AI算力爆發(fā)的“熱情”與困境人工智能技術(shù)的飛速發(fā)展推動全球進入智能算力時代。ChatGPT、Sora等大模型的廣泛應(yīng)用,使得數(shù)據(jù)中心的計算需求呈指數(shù)級增長。單個AI訓(xùn)練服務(wù)器的功率密度已突破千瓦
    的頭像 發(fā)表于 08-26 09:42 ?1419次閱讀
    氮化硼有“涼”方,解決AI<b class='flag-5'>數(shù)據(jù)中心</b>的<b class='flag-5'>能</b><b class='flag-5'>效</b>困境 | 晟鵬科技

    施耐德電氣SmartCool助力數(shù)據(jù)中心升級

    某能源供應(yīng)企業(yè)的數(shù)據(jù)中心,生產(chǎn)級別、最高安全要求的機房,承擔(dān)著多省核心業(yè)務(wù)命脈,這里停電1分鐘,意味著多省業(yè)務(wù)同時陷入癱瘓,“高安全,強監(jiān)管”為其守住了“安全紅線”,也為其帶來了“不容試錯”的挑戰(zhàn)。
    的頭像 發(fā)表于 07-30 09:41 ?856次閱讀

    簡單認識安森美AI數(shù)據(jù)中心電源解決方案

    面對AI算力需求爆發(fā)式增長,數(shù)據(jù)中心電力系統(tǒng)正面臨前所未有的挑戰(zhàn)。安森美(onsemi)推出的AI數(shù)據(jù)中心電源解決方案,直擊、尺寸等痛點,助力客戶把握
    的頭像 發(fā)表于 07-05 13:03 ?3793次閱讀
    簡單認識安森美AI<b class='flag-5'>數(shù)據(jù)中心</b>電源解決方案

    西門子G120XA變頻器:數(shù)據(jù)中心革命的核心引擎

    在數(shù)字經(jīng)濟爆發(fā)式增長的今天,數(shù)據(jù)中心已成為支撐社會運轉(zhuǎn)的"數(shù)字心臟"。然而,其龐大的能耗需求與綠色低碳目標之間的矛盾日益凸顯——尤其是冷卻系統(tǒng)作為數(shù)據(jù)中心第二大能耗單元(占比約35%),正成為
    的頭像 發(fā)表于 07-03 17:44 ?1294次閱讀
    西門子G120XA變頻器:<b class='flag-5'>數(shù)據(jù)中心</b><b class='flag-5'>能</b><b class='flag-5'>效</b>革命的核心引擎

    曙光數(shù)創(chuàng)SLiquid智能運維系統(tǒng)解決數(shù)據(jù)中心運維難題

    面對數(shù)字時代的海量需求,傳統(tǒng)數(shù)據(jù)中心正遭遇系統(tǒng)性挑戰(zhàn):告警風(fēng)暴引發(fā)的故障定位遲滯、困局導(dǎo)致的PUE優(yōu)化瓶頸、資產(chǎn)迷霧造成的資源錯配、容量盲區(qū)引發(fā)的規(guī)劃失焦。這些問題嚴重阻礙了數(shù)據(jù)中心
    的頭像 發(fā)表于 06-03 10:21 ?1150次閱讀

    數(shù)據(jù)中心機房供配電體系構(gòu)建與智慧管控方案

    個交叉的系統(tǒng),涉及到市電供電、防雷接地、防靜電、UPS不間斷供電、柴油發(fā)電機等,每個系統(tǒng)互相交叉,互有影響,這就使我們在設(shè)計時必須考慮多方面的因素。本文從數(shù)據(jù)中心的高壓供電系統(tǒng)到末端精密配電系統(tǒng)介紹數(shù)據(jù)中心供配電及
    的頭像 發(fā)表于 05-14 14:52 ?1267次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>機房供配電體系構(gòu)建與<b class='flag-5'>能</b><b class='flag-5'>效</b>智慧管控方案
    伊宁市| 汝州市| 顺昌县| 体育| 鄱阳县| 达日县| 巧家县| 泸州市| 广汉市| 祁阳县| 东安县| 东明县| 措勤县| 鄂尔多斯市| 文山县| 政和县| 佛坪县| 虎林市| 弋阳县| 秦安县| 景谷| 通渭县| 廊坊市| 逊克县| 东台市| 荥阳市| 九江县| 巫溪县| 乌拉特前旗| 东阳市| 隆昌县| 景谷| 突泉县| 平湖市| 偃师市| 高唐县| 甘孜县| 长治县| 荆州市| 福安市| 汉川市|