日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型對算力需求指數(shù)級增長,集群成必然選擇

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2024-01-23 00:21 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)近年來,AIGC技術(shù)的火爆,代表著AI正在從感知理解世界向生成創(chuàng)造世界躍遷。在近日舉辦的全球人工智能算力論壇上,寶德計算信創(chuàng)BU副總裁鄧克武談到,AIGC產(chǎn)業(yè)發(fā)展創(chuàng)新正在加速,預(yù)計到2030年市場規(guī)模會到達(dá)萬億。然而隨著AI技術(shù)的飛速發(fā)展,算力也成為了制約AI大模型應(yīng)用普及的關(guān)鍵因素。

大模型重塑產(chǎn)業(yè)格局

在鄧克武看來,AIGC產(chǎn)業(yè)發(fā)展預(yù)計將會經(jīng)歷三個階段。第一個階段是2023年到2025年,屬于培育摸索期,該階段主要以遵循指令性加工和拼接式為主,例如,播報類(語音合成的電子書)、數(shù)字人(支持多種類型任務(wù)的數(shù)字人)、營銷推廣等。

第二個階段是2025年到2027年,這個時期會是AIGC的應(yīng)用蓬勃期,該階段主要以人機(jī)聯(lián)合共創(chuàng)的模式為主,例如,各種類型的生成任務(wù),以AI生成為基礎(chǔ)進(jìn)行迭代;行業(yè)生態(tài)完善,底層大模型對外開發(fā)。

第三階段是2028年以后,這個時期為AIGC增長期,到這個時候,產(chǎn)業(yè)鏈逐漸完善,商業(yè)化場景持續(xù)拓展拓深,深入變革各行業(yè),預(yù)計2030年市場規(guī)模超萬億。

鄧克武認(rèn)為,大模型將重構(gòu)人工智能生產(chǎn)范式。他還提到“人工智能行業(yè)的二八定律”,即進(jìn)入大模型時代,未來軟件80% 的價值將由AI大模型提供,剩余20% 會由提示工程和傳統(tǒng)業(yè)務(wù)開發(fā)組成。

同時,他認(rèn)為,MaaS將重構(gòu)商業(yè)化生態(tài),大模型“訓(xùn)練基礎(chǔ)設(shè)施-底層技術(shù)-基礎(chǔ)應(yīng)用-垂直應(yīng)用”發(fā)展路線逐漸清晰。MaaS,即Model as a Service,模型即服務(wù),能夠降低AI應(yīng)用開發(fā)門檻,重構(gòu)AI產(chǎn)業(yè)的商業(yè)化結(jié)構(gòu)生態(tài),激發(fā)新的產(chǎn)業(yè)鏈分工和商業(yè)模式不斷涌現(xiàn)。MaaS將可能成為未來大模型的主流商業(yè)模式。

wKgaomWuQcWAK2UiAAOkfzX9rA0549.jpg

隨著大模型的發(fā)展,其應(yīng)用也會逐步拓展,從初期To C現(xiàn)象級應(yīng)用向通用To B應(yīng)用,再向場景化To B應(yīng)用發(fā)展。當(dāng)然,這個過程也面臨不同的挑戰(zhàn),To C應(yīng)用的挑戰(zhàn)在于用戶商業(yè)付費挑戰(zhàn)大:使用門檻較低,用戶量大且接受度高,落地及成長速度快,但客戶付費意愿偏低,商業(yè)閉環(huán)挑戰(zhàn)大。To B應(yīng)用的挑戰(zhàn)在于和行業(yè)數(shù)據(jù)&應(yīng)用的深度融合:行業(yè)數(shù)據(jù)積累、模型調(diào)測和行業(yè)應(yīng)用集成均需要時間,但客戶付費能力強(qiáng),未來增長及盈利空間廣闊。

wKgZomWuQc2AR164AANGfIPU7Rc847.jpg

算力集群化發(fā)展是必然趨勢

目前,國內(nèi)已有超100+企業(yè)在戰(zhàn)略布局大模型機(jī)會。對于企業(yè)來說,需要準(zhǔn)備迎接產(chǎn)業(yè)變革,構(gòu)筑新的競爭優(yōu)勢。如何做呢?其一,對內(nèi)提升自身業(yè)務(wù)效率與感知,即與自身行業(yè)、業(yè)務(wù)特點和需求等深度結(jié)合;其二,面向中小企業(yè)提供AI模型服務(wù),通過API/三方插件吸引更多應(yīng)用及數(shù)據(jù),通過提供模型開發(fā)服務(wù),深度切入行業(yè),掌握行業(yè)經(jīng)驗和數(shù)據(jù);其三,面向AI創(chuàng)業(yè)者/企業(yè)提供算力服務(wù),滿足企業(yè)AI算力需求,構(gòu)筑數(shù)字基礎(chǔ)設(shè)施格局。

算力方面,大算力集群是業(yè)界廠家AI模型開發(fā)的共同選擇,如騰訊數(shù)萬卡規(guī)模的星星海AI集群,阿里巴巴12EFLOPS的靈駿AI集群,百度4EFLOPS 百舸AI集群,商湯3.7EFLOPS AIDC集群,華為數(shù)萬卡規(guī)模昇騰AI集群等。

在鄧克武看來,大模型對算力的需求將指數(shù)級增長,AI算力將從單機(jī)走向集群時代。據(jù)鄧克武介紹,大模型算力需求每兩年以750倍增長,而硬件算力供給每兩年僅增長3倍。比如,從ResNet-50(2500萬參數(shù)),到GPT-1(1.7億參數(shù)),再到GPT-4(萬億級參數(shù)),計算需求需要十倍,到千倍的增長,存儲需求經(jīng)歷百倍,到千倍的增長。AI算力和數(shù)據(jù)中心集群發(fā)展,可以加速產(chǎn)業(yè)創(chuàng)新。

wKgaomWuQdeAEc6VAAMNjqXMsYk852.jpg

寶德計算作為中國領(lǐng)先的計算產(chǎn)品方案提供商,構(gòu)建了自強(qiáng)昇騰高密算力平臺,以支撐大模型系統(tǒng)工程建設(shè)。在上述論壇上,鄧克武詳細(xì)介紹了公司的兩款服務(wù)器:PR420KI G2訓(xùn)練服務(wù)器和PR410EI 訓(xùn)練服務(wù)器。

PR420KI G2訓(xùn)練服務(wù)器CPU采用了4顆鯤鵬920處理器,NPU采用了8顆昇騰910,節(jié)點內(nèi)互聯(lián)采用HCCS Full mesh互聯(lián)高速網(wǎng)絡(luò);PR410EI 訓(xùn)練服務(wù)器CPU采用2顆第四代Intel至強(qiáng)可拓展處理器Sapphire Rapids,NPU采用8顆昇騰910,節(jié)點內(nèi)互聯(lián)采用HCCS Full mesh互聯(lián)高速網(wǎng)絡(luò)。

同時,他還介紹了公司的Pod集群組網(wǎng),以256臺訓(xùn)練服務(wù)器為例,共計2048顆Ascned910芯片。分成16組,每組16臺服務(wù)器,里面放置一個完整的模型,每組之間采用數(shù)據(jù)并行;每組16臺服務(wù)器,采用模型并行,每臺服務(wù)器放1/16的模型。

wKgZomWuQeGAHZa7AANDrZbF8yY786.jpg

據(jù)鄧克武介紹,寶德面向多種大模型部署方式,還構(gòu)建了差異化解決方案。此外,公司聯(lián)合生態(tài)伙伴不斷深化合作,成功實踐了100多個AI項目,涵蓋了電力、安平、教育、金融、互聯(lián)網(wǎng)、智慧城市等行業(yè),寶德將繼續(xù)探索更多行業(yè)和細(xì)分領(lǐng)域智能化實踐,共同加速AI行業(yè)智能化升級和落地。

寫在最后

經(jīng)過一年多時間的發(fā)展,大模型商業(yè)化應(yīng)用已經(jīng)成為業(yè)界探索的焦點,并且已經(jīng)進(jìn)展明顯。與此同時,隨著大模型訓(xùn)練和部署的持續(xù)加速,這對算力的需求也會大幅增長。為了滿足大模型訓(xùn)練和部署需求,集群成為廠家模型開發(fā)的共同選擇。而能夠為各種大模型部署提供算力支持的企業(yè)也必然會乘風(fēng)而起。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    41370

    瀏覽量

    302744
  • 算力
    +關(guān)注

    關(guān)注

    2

    文章

    1699

    瀏覽量

    16838
  • AIGC
    +關(guān)注

    關(guān)注

    1

    文章

    393

    瀏覽量

    3274
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3805

    瀏覽量

    5280
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    中科曙光超智融合算集群正式接入全國一體化網(wǎng)

    for Science)計算集群首次納入國家調(diào)度主平臺,更為“東數(shù)西”縱深推進(jìn)與“人工智能 +”戰(zhàn)略實施注入關(guān)鍵動能。
    的頭像 發(fā)表于 04-29 15:05 ?394次閱讀

    揚電科技:電協(xié)同雙主業(yè)布局推進(jìn),關(guān)注業(yè)務(wù)落地進(jìn)度

    ?電協(xié)同上升為國家戰(zhàn)略新基建核心方向,AI大模型與AGI技術(shù)的爆發(fā)式發(fā)展,驅(qū)動全球推理算需求進(jìn)入指數(shù)
    的頭像 發(fā)表于 04-28 19:46 ?130次閱讀

    AI卡殼“三堵墻”?破局突圍,也許只差一個時頻同步方案!

    作為數(shù)字經(jīng)濟(jì)的新“石油",AI正迎來指數(shù)增長,但
    的頭像 發(fā)表于 04-28 14:21 ?1w次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>卡殼“三堵墻”?破局突圍,也許只差一個時頻同步方案!

    成都匯陽投資關(guān)于AI 引爆需求,存儲芯片漲價周期來襲

    。2026年全球AI 服務(wù)器出貨量預(yù)計同比激增 180%,云廠 商資本開支同比提升40%至6000億美 元 ,建設(shè)的加速直接推動存儲芯片需求進(jìn)入指數(shù)
    的頭像 發(fā)表于 03-27 17:12 ?523次閱讀

    中科曙光scaleX萬卡超集群重塑超大規(guī)模基礎(chǔ)設(shè)施

    在“人工智能+”行動深入推進(jìn)的當(dāng)下,基礎(chǔ)設(shè)施已成為國家戰(zhàn)略競爭的核心,而超大規(guī)模集群的運維管控難題卻日益凸顯。中科曙光scaleX萬卡超集群
    的頭像 發(fā)表于 01-30 15:43 ?1001次閱讀

    中科曙光推出國產(chǎn)自研原生RDMA高速網(wǎng)絡(luò)scaleFabric

    AI集群正加速向萬卡、十萬卡規(guī)模迭代,高速互連網(wǎng)絡(luò)作為高效釋放的“神經(jīng)樞紐”,其性能、
    的頭像 發(fā)表于 01-21 13:41 ?1478次閱讀

    墨芯人工智能千卡集群正式簽約入駐新疆中心

    在“東數(shù)西”國家工程全面推進(jìn)的大背景下,新疆憑借其豐富的清潔能源和獨特的區(qū)位優(yōu)勢,正迅速崛起為國家網(wǎng)絡(luò)的關(guān)鍵樞紐。近日,墨芯人工智能(以下簡稱“墨芯”)的千卡
    的頭像 發(fā)表于 12-30 17:27 ?962次閱讀

    積木+3D堆疊!GPNPU架構(gòu)創(chuàng)新,應(yīng)對AI推理需求

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)2025年,人工智能正式邁入應(yīng)用推理時代。大模型從實驗室走向千行百業(yè),推理需求指數(shù)爆發(fā)。然而,高昂的推理成本與有限的
    的頭像 發(fā)表于 12-11 08:57 ?8136次閱讀

    湘軍,讓變成生產(chǎn)?

    腦極體
    發(fā)布于 :2025年11月25日 22:56:58

    “超節(jié)點+集群”:華為撞出來的之路

    “超節(jié)點+集群”,成為徹底解決AI困局的契機(jī)
    的頭像 發(fā)表于 09-24 10:55 ?1377次閱讀
    “超節(jié)點+<b class='flag-5'>集群</b>”:華為撞出來的<b class='flag-5'>算</b><b class='flag-5'>力</b>之路

    杭州靈汐類腦智集群實現(xiàn)大模型快速推理

    電信具體承擔(dān)集成建設(shè)。該集群部署在中國電信杭州智中心,規(guī)模超200POPS。這也是類腦智集群
    的頭像 發(fā)表于 08-18 16:06 ?1159次閱讀

    壁仞科技聯(lián)合三方打造國產(chǎn)集群落地

    近日,由浙江聯(lián)通、壁仞科技、中興通訊、優(yōu)云科技四方聯(lián)合打造的國產(chǎn)集群,在浙江烏鎮(zhèn)智中心正式點亮。該集群項目的建成,不僅極大地豐富了浙江
    的頭像 發(fā)表于 08-01 15:26 ?1671次閱讀

    一文看懂AI集群

    最近這幾年,AI浪潮席卷全球,成為整個社會的關(guān)注焦點。大家在討論AI的時候,經(jīng)常會提到AI集群。AI的三要素,是、算法和數(shù)據(jù)。而AI
    的頭像 發(fā)表于 07-23 12:18 ?1988次閱讀
    一文看懂AI<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>集群</b>

    熱插拔集群

    熱插拔集群指在無需停機(jī)的情況下,動態(tài)增減計算節(jié)點或硬件的基礎(chǔ)設(shè)施,其核心價值在于實現(xiàn)資源的彈性伸縮和業(yè)務(wù)連續(xù)性。以下從關(guān)鍵技術(shù)、應(yīng)用
    的頭像 發(fā)表于 06-26 09:20 ?1279次閱讀

    即國力,比克電池如何為AI時代“蓄能

    引擎》中明確提出,“是數(shù)字經(jīng)濟(jì)時代的新質(zhì)生產(chǎn),更是國家競爭的重要指標(biāo)。”隨著AI大模型訓(xùn)練
    的頭像 發(fā)表于 06-04 14:22 ?1282次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,比克電池如何為AI時代“蓄能
    德令哈市| 城市| 定远县| 邵阳县| 曲靖市| 南充市| 扶绥县| 闸北区| 礼泉县| 漳州市| 景东| 安庆市| 江北区| 壶关县| 巴马| 延吉市| 汕头市| 论坛| 东光县| 鄂州市| 囊谦县| 和硕县| 平泉县| 景东| 萨迦县| 丹巴县| 雷州市| 金溪县| 花垣县| 松阳县| 军事| 长沙县| 额尔古纳市| 榆中县| 昭觉县| 交口县| 日喀则市| 通河县| 武宁县| 璧山县| 绿春县|