日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

阿里云暫停A100服務(wù)器出租,AI算力奇缺!國(guó)產(chǎn)AI芯片任重道遠(yuǎn)

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-11-09 09:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)上個(gè)月,美國(guó)發(fā)布更新針對(duì)AI芯片的出口管制規(guī)定,新措施意在填補(bǔ)去年10月發(fā)布法規(guī)中的漏洞。這樣意味著,除了英偉達(dá)A100/H100之外,其針對(duì)中國(guó)市場(chǎng)推出的替代版本A800/H800等GPU對(duì)華出售也將受到限制。

近日,阿里云A100服務(wù)器業(yè)務(wù)暫停出租的消息傳出。這反映出,美國(guó)對(duì)AI芯片的出口管制規(guī)定,已經(jīng)對(duì)中國(guó)的算力供應(yīng)造成影響。當(dāng)前的情況是,需求側(cè)大模型正在快速發(fā)展,對(duì)算力的需求不斷提升;供給側(cè)英偉達(dá)GPU芯片對(duì)華銷售受阻,市面上A100/A800等現(xiàn)貨價(jià)格水漲船高,算力租賃服務(wù)售價(jià)同樣如此。而阿里云在滿足自身大模型研發(fā)需求之外,也已經(jīng)沒有足夠多算力用于對(duì)外出租。

捉襟見肘的AI算力

目前,國(guó)內(nèi)各大互聯(lián)網(wǎng)廠商都已經(jīng)推出自己的大模型產(chǎn)品,并在不斷探索技術(shù)和應(yīng)用創(chuàng)新,同時(shí)各行各業(yè)的企業(yè),無論大小,都在嘗試將大模型技術(shù)引入自己的產(chǎn)品和解決方案中。而無論是大模型的研究和應(yīng)用,其訓(xùn)練和推理過程都需要依靠強(qiáng)大的算力作支撐。

百度、騰訊、字節(jié)、阿里作為國(guó)內(nèi)主要的云服務(wù)廠商。相較之下,購(gòu)買和積累了更多的GPU產(chǎn)品。其中,字節(jié)跳動(dòng)A100 和V100顯卡總數(shù)接近10萬塊,阿里巴巴集團(tuán)也大概擁有10萬塊頂級(jí)顯卡。騰訊因?yàn)樵?022年底砍掉一批英偉達(dá)訂單,其擁有的GPU數(shù)量較少。相對(duì)來說,百度所擁有的頂級(jí)GPU數(shù)量也偏少。

近年來,大模型熱潮如龍卷風(fēng)般襲來,這對(duì)GPU的需求不斷增加,上述各大廠商也加大了向英偉達(dá)GPU所下的訂單,以擴(kuò)大自己的基礎(chǔ)硬件設(shè)施儲(chǔ)備。今年8月,百度、字節(jié)、騰訊和阿里向英偉達(dá)下單訂購(gòu)50億美元的芯片,其中價(jià)值10億美元約10萬顆英偉達(dá)A800芯片,將在年內(nèi)交付。另外價(jià)值40億美元的芯片將于2024年交付。

然而,在上個(gè)月美國(guó)發(fā)布AI芯片出口管制新規(guī)之后,這些訂單都將不能如期交付。這意味著各大互聯(lián)網(wǎng)廠商面臨著不同程度的GPU芯片緊缺的局面。

阿里云此次暫停A100服務(wù)器對(duì)外出租可想而知就是如此。阿里云是全球領(lǐng)先的云計(jì)算服務(wù)提供商之一,它提供各種各樣的云計(jì)算產(chǎn)品和服務(wù),包括云服務(wù)器租賃。

阿里云云服務(wù)器租賃是一種將計(jì)算資源分配給用戶的服務(wù),用戶可以通過互聯(lián)網(wǎng)租用虛擬化的服務(wù)器資源。這些服務(wù)器資源是在阿里云數(shù)據(jù)中心中運(yùn)行的,用戶只需要根據(jù)自己的需求選擇適合自己的云服務(wù)器,并根據(jù)需要支付租金。

在10月31日開幕的2023年云棲大會(huì)上,阿里巴巴集團(tuán)董事會(huì)主席蔡崇信談到,在當(dāng)下的智能化時(shí)代,阿里巴巴要致力于打造AI時(shí)代最開放的云。他表示,目前,中國(guó)有80%的科技企業(yè)和一半的大模型公司都跑在阿里云上。

除了對(duì)外出租,阿里云正在研發(fā)和迭代自己的通義千問大模型,這對(duì)GPU算力的需求很高。舉例來看,OpenAI的GPT-3訓(xùn)練使用了128臺(tái)英偉達(dá)A100服務(wù)器(訓(xùn)練34天),對(duì)應(yīng)640P算力,GPT-4模型訓(xùn)練使用了3125臺(tái)英偉達(dá)A100 服務(wù)器(訓(xùn)練90-100天),對(duì)應(yīng)15625P算力。從GPT-3至GPT-4模型參數(shù)規(guī)模增加約10倍,用于訓(xùn)練的GPU數(shù)量增加了近24倍。

根據(jù)行業(yè)人士的推測(cè),國(guó)內(nèi)頭部大模型廠商如果對(duì)標(biāo)GPT-3模型的訓(xùn)練需求,需要1920臺(tái)A100/A800服務(wù)器,對(duì)應(yīng)15360張GPU。如果對(duì)標(biāo)GPT-4模型的訓(xùn)練需求,則額外需要13705臺(tái)A100/A800服務(wù)器,對(duì)應(yīng)近11萬張GPU。

根據(jù)此前傳出的一份交流紀(jì)要里,阿里云AI專家提到,阿里云在云上有上萬片的A100,整體能夠達(dá)到10萬片,集團(tuán)體量應(yīng)該是阿里云的5倍。該AI專家提到,大模型大規(guī)模的應(yīng)用,成本也很高,比如ChatGPT完成一個(gè)推理任務(wù),需要5張A100在2秒鐘之內(nèi)做一次推理。

大致來看,1萬張頂級(jí)顯卡才剛剛算是能夠跨進(jìn)大模型的門。而如果要訓(xùn)練更高級(jí)別的大模型,對(duì)GPU的需求將會(huì)呈大幅度增長(zhǎng)。就如上文所述,阿里云擁有大約1萬張A100,已經(jīng)足夠其訓(xùn)練大模型產(chǎn)品,然而如果它想訓(xùn)練出對(duì)標(biāo)GPT-4的模型,可能就要用上阿里集團(tuán)目前所有的GPU卡。

逐漸能用的國(guó)產(chǎn)AI芯片

隨著大模型的研發(fā)和應(yīng)用,以及美國(guó)對(duì)AI芯片的出口管制,目前市場(chǎng)面現(xiàn)有的英偉達(dá)GPU芯片已經(jīng)漲到天價(jià),而且所剩不多,各個(gè)算力租賃服務(wù)企業(yè)價(jià)格也在不斷上漲。阿里云或許是為了率先滿足自己對(duì)算力的需求,只得暫停A100服務(wù)器對(duì)外出租。

然而這些舉措都沒有辦法真正解決,目前國(guó)內(nèi)對(duì)可用于大模型訓(xùn)練和推理的AI芯片的需求問題。近日,面對(duì)美國(guó)加強(qiáng)對(duì)華人工智能芯片管制,英特爾率先提出應(yīng)變策略。據(jù)英特爾供應(yīng)鏈透露,英特爾已針對(duì)最新發(fā)布的Gaudi2推出降規(guī)版出貨,預(yù)計(jì)將不受新禁令影響。

不過,即使Gaudi2降規(guī)版短期內(nèi)能夠出貨,然而其性能必然是會(huì)大打折扣的。要知道,之前英偉達(dá)在符合去年10月法規(guī)的基礎(chǔ)上,推出的A800/H800,相對(duì)于A100/H100在關(guān)鍵性能上就已經(jīng)大幅限制,如今要符合更新后的出口管制規(guī)定,Gaudi2降規(guī)版計(jì)算性能還得更進(jìn)一步下調(diào)。

期待國(guó)產(chǎn)AI算力芯片的突圍,才是長(zhǎng)久之計(jì)。事實(shí)上,目前已經(jīng)有一些國(guó)產(chǎn)企業(yè)的人工智能芯片,受到客戶的青睞。比如弘信電子近日發(fā)布公告稱,已與上海燧原科技有限公司簽署采購(gòu)協(xié)議,擬長(zhǎng)期向燧原科技采購(gòu)一定數(shù)量的人工智能加速卡及配套產(chǎn)品作為原材料。本次公司已正式向燧原科技下發(fā)9152片芯片采購(gòu)訂單,計(jì)劃于年底前完成全部芯片的交付,快速形成國(guó)產(chǎn)算力落地。

近日也有消息傳出,百度為200臺(tái)服務(wù)器訂購(gòu)了1600片昇騰910B AI芯片。到10月份,華為已向百度交付了超過60%的訂單。而且此前科大訊飛此前就已經(jīng)采用華為昇騰910B芯片,該公司還表示,當(dāng)前華為昇騰910B能力已經(jīng)基本做到可對(duì)標(biāo)英偉達(dá)A100。

總結(jié)

可以看到,在當(dāng)前大模型的不斷發(fā)展,及美國(guó)對(duì)AI芯片的出口管制下,算力已經(jīng)出現(xiàn)了極度緊缺的情況。雖然英特爾表示,已發(fā)布針對(duì)最新發(fā)布的Gaudi2推出降規(guī)版。然而可想而知其性能將會(huì)大打折扣,而且不能確保美國(guó)后續(xù)不會(huì)針對(duì)降規(guī)版也實(shí)施限制。長(zhǎng)久來看,發(fā)展中國(guó)自己的AI算力芯片極其重要,而如今已經(jīng)有國(guó)產(chǎn)的AI芯片可以用于大模型的訓(xùn)練和推理,這無疑給國(guó)產(chǎn)AI芯片在未來的發(fā)展中增添了更多信心。






聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    91

    文章

    41315

    瀏覽量

    302694
  • 阿里云
    +關(guān)注

    關(guān)注

    3

    文章

    1046

    瀏覽量

    45893
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    阿里神秘AI芯片正式官宣!GPGPU路線,性能超越A100

    電子發(fā)燒友網(wǎng)報(bào)道(文/梁浩斌)去年9月,我們?cè)鴪?bào)道過,阿里平頭哥一款未公開的AI芯片PPU登上央視《新聞聯(lián)播》節(jié)目,該產(chǎn)品性能參數(shù)在新聞
    的頭像 發(fā)表于 01-30 09:01 ?7970次閱讀
    <b class='flag-5'>阿里</b>神秘<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>正式官宣!GPGPU路線,性能超越<b class='flag-5'>A100</b>

    AI服務(wù)器PCBA加工技術(shù)解析:高時(shí)代的核心制造能力

    AI服務(wù)器PCBA加工 是AI服務(wù)器硬件制造的重要環(huán)節(jié),也是支撐人工智能基礎(chǔ)設(shè)施的重要技術(shù)能
    的頭像 發(fā)表于 04-16 22:57 ?156次閱讀

    成都匯陽(yáng)投資關(guān)于AI 引爆需求,存儲(chǔ)芯片漲價(jià)周期來襲

    。2026年全球AI 服務(wù)器出貨量預(yù)計(jì)同比激增 180%,廠 商資本開支同比提升40%至6000億美 元 ,建設(shè)的加速直接推動(dòng)存儲(chǔ)
    的頭像 發(fā)表于 03-27 17:12 ?501次閱讀

    爆發(fā)下的剛需賽道:AI服務(wù)器高頻高速連接需求迎爆發(fā)式增長(zhǎng)

    當(dāng)前,AI基建正進(jìn)入全面爆發(fā)期,高頻高速連接作為AI服務(wù)器的核心零部件,承擔(dān)著短距離高速信
    的頭像 發(fā)表于 03-20 14:07 ?972次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>爆發(fā)下的剛需賽道:<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>高頻高速連接<b class='flag-5'>器</b>需求迎爆發(fā)式增長(zhǎng)

    GPU服務(wù)器哪家強(qiáng)?深度學(xué)習(xí)與AI訓(xùn)練性能實(shí)測(cè)

    每小時(shí)數(shù)十元甚至數(shù)百元的租金,讓成本成為了項(xiàng)目成敗的關(guān)鍵。2026年的GPU市場(chǎng)不再是A100一家獨(dú)大,H200、B200以及國(guó)產(chǎn)
    的頭像 發(fā)表于 03-19 16:45 ?473次閱讀

    邊緣AI臨界點(diǎn):深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價(jià)值

    AI服務(wù)器) 這一形態(tài)應(yīng)運(yùn)而生。它需要在極小體積內(nèi),提供接近服務(wù)器級(jí)的AI吞吐能力,同時(shí)具備工業(yè)級(jí)的接口擴(kuò)展性。 OrangePi AI S
    發(fā)表于 03-10 14:19

    覺醒 · AI共生——上海永銘電子2025AI服務(wù)器電容應(yīng)用專題會(huì)議圓滿落幕

    隨著人工智能浪潮席卷全球,AI正以前所未有的速度爆發(fā)式增長(zhǎng)。在這場(chǎng)決定未來的技術(shù)競(jìng)速中,穩(wěn)定、高效、可靠的電力供應(yīng)是基石的核心。而電
    的頭像 發(fā)表于 11-03 14:00 ?1146次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>覺醒 · <b class='flag-5'>AI</b>共生——上海永銘電子2025<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>電容應(yīng)用專題會(huì)議圓滿落幕

    國(guó)產(chǎn)AI芯片真能扛住“內(nèi)卷”?海思昇騰的這波操作藏了多少細(xì)節(jié)?

    最近行業(yè)都在說“AI的命門”,但國(guó)產(chǎn)芯片真的能接住這波需求嗎? 前陣子接觸到海思昇騰910B,實(shí)測(cè)下來有點(diǎn)超出預(yù)期——7nm工藝下
    發(fā)表于 10-27 13:12

    阿里自研AI芯片央視曝光,國(guó)產(chǎn)崛起新里程碑

    ,因?yàn)槠渲信读?b class='flag-5'>阿里旗下平頭哥最新研發(fā)的面向人工智能的PPU芯片。這一曝光,不僅讓大眾看到了阿里AI芯片領(lǐng)域的深厚積累與卓越成果,更標(biāo)志著
    的頭像 發(fā)表于 09-18 17:07 ?2706次閱讀

    多達(dá) 48 個(gè)計(jì)算節(jié)點(diǎn)!Firefly 推出 CSC2-N48 AI 服務(wù)器

    Firefly最新推出CSC2-N48服務(wù)器,內(nèi)置48個(gè)分布式計(jì)算節(jié)點(diǎn),單節(jié)點(diǎn)可提供6TOPS-157TOPS,可選瑞芯微、
    的頭像 發(fā)表于 08-20 16:37 ?1840次閱讀
    多達(dá) 48 個(gè)計(jì)算節(jié)點(diǎn)!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>

    借勢(shì) RISC-V與 AI 浪潮,元石智打造新范式

    與RISC-V架構(gòu)崛起的雙重浪潮下,國(guó)產(chǎn)服務(wù)器系統(tǒng)行業(yè)正迎來關(guān)鍵發(fā)展機(jī)遇。 武漢元石智科技有限公司(下文簡(jiǎn)稱“元石智”)作為國(guó)產(chǎn)
    的頭像 發(fā)表于 07-25 14:51 ?834次閱讀
    借勢(shì) RISC-V與 <b class='flag-5'>AI</b> 浪潮,元石智<b class='flag-5'>算</b>打造<b class='flag-5'>算</b><b class='flag-5'>力</b>新范式

    AI 服務(wù)器電源如何迭代升級(jí)?

    AI 需求增長(zhǎng)的今天,AI 服務(wù)器電源正陷入 “性能瓶頸與國(guó)產(chǎn)替代并行、場(chǎng)景適配與技術(shù)創(chuàng)新
    的頭像 發(fā)表于 06-23 14:51 ?1738次閱讀

    AI新基建背后的中國(guó)芯力量——中微愛芯服務(wù)器芯片國(guó)產(chǎn)化替代全景解讀

    計(jì)算架構(gòu)已難以支撐AI技術(shù)的迭代速度。這一矛盾直接催生了AI服務(wù)器的快速發(fā)展——作為承載AI
    的頭像 發(fā)表于 06-20 13:55 ?2141次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>新基建背后的中國(guó)芯力量——中微愛芯<b class='flag-5'>服務(wù)器</b><b class='flag-5'>芯片</b><b class='flag-5'>國(guó)產(chǎn)</b>化替代全景解讀

    基于RAKsmart服務(wù)器AI大模型實(shí)時(shí)推理方案設(shè)計(jì)

    面對(duì)高并發(fā)請(qǐng)求、嚴(yán)格的響應(yīng)延遲要求及波動(dòng)的業(yè)務(wù)負(fù)載,傳統(tǒng)本地化部署的瓶頸愈發(fā)顯著。RAKsmart服務(wù)器憑借其彈性計(jì)算資源池、分布式網(wǎng)絡(luò)架構(gòu)與全棧
    的頭像 發(fā)表于 05-13 10:33 ?730次閱讀

    從云端到終端:RAKsmart服務(wù)器構(gòu)筑AI平臺(tái)智慧城市全棧解決方案

    傳統(tǒng)服務(wù)器方案常面臨分散、運(yùn)維復(fù)雜、能效比低等問題,導(dǎo)致AI算法難以高效落地。而RAKsmart服務(wù)器憑借其技術(shù)創(chuàng)新與全棧
    的頭像 發(fā)表于 05-09 09:47 ?785次閱讀
    昌黎县| 顺义区| 台南市| 罗甸县| 栾城县| 夏河县| 灵宝市| 醴陵市| 来宾市| 渝中区| 呼和浩特市| 玉树县| 沙雅县| 蓬莱市| 大化| 达拉特旗| 宜阳县| 崇礼县| 南溪县| 康平县| 桑植县| 罗甸县| 双辽市| 宁国市| 珲春市| 延川县| 合川市| 西藏| 三明市| 申扎县| 三亚市| 凤翔县| 新昌县| 平凉市| 江阴市| 浏阳市| 登封市| 上饶县| 邯郸县| 搜索| 池州市|