日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AMD硬剛英偉達(dá),推出Instinct MI300,單芯片可運(yùn)行800億參數(shù)

DzOH_ele ? 來源:電子發(fā)燒友網(wǎng) ? 2023-06-14 16:46 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

美國時間本周二,AMD舉行了重磅發(fā)布會,推出了一款全新的人工智能GPU Instinct MI300,并表示這款處理器將于今年晚些時候開始向部分客戶發(fā)貨。自英偉達(dá)發(fā)布了AI芯片后,便徹底帶動了市場的投資熱情,也推動英偉達(dá)登上萬億美元市值的高峰。此次AMD發(fā)布重磅AI芯片,有望對英偉達(dá)當(dāng)前的市場地位形成一定沖擊。

AMD推出高性能AI芯片

在這次AMD的新品發(fā)布會中,核心產(chǎn)品無疑是用于訓(xùn)練大模型的GPU Instinct MI300。早在今年初,AMD便已經(jīng)宣布了新一代Instinct MI300,是全球首款同時集成CPU、GPU的數(shù)據(jù)中心APU。

601e5ef4-0a8e-11ee-962d-dac502259ad0.png

如今,這款芯片的名字變成了Instinct MI300A,而純GPU產(chǎn)品則命名為Instinct MI300X。據(jù)AMD的CEO蘇姿豐透露,MI300A是全球首個為AI和HPC(高性能計算)打造的APU加速卡,擁有13個小芯片,總共包含1460億個晶體管,24個Zen 4 CPU核心,1個CDNA 3圖形引擎和128GB HBM3內(nèi)存。

相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在發(fā)布會稍早介紹,新的Zen 4c內(nèi)核比標(biāo)準(zhǔn)的Zen 4內(nèi)核密度更高,比標(biāo)準(zhǔn)Zen 4的內(nèi)核小35%,同時保持100%的軟件兼容性。

602c2b92-0a8e-11ee-962d-dac502259ad0.png

而GPU MI300X更是本次發(fā)布會的重點(diǎn),這款芯片是AMD針對大語言模型優(yōu)化的版本,該產(chǎn)品的晶體管數(shù)量達(dá)到1530億個,內(nèi)存達(dá)到了192GB,內(nèi)存帶寬為5.2TB/s,Infinity Fabric帶寬為896GB/s。對比英偉達(dá)的H100,MI300X提供的HBM(高帶寬內(nèi)存)密度約為H100的2.4倍,HBM帶寬是1.6倍。

這意味著AMD的這款產(chǎn)品可以運(yùn)行比英偉達(dá)H100更大的模型,在現(xiàn)場AMD演示了MI300X運(yùn)行400億參數(shù)的Falcon模型,而OpenAI的GPT-3模型有1750億個參數(shù)。蘇姿豐還用Hugging Face基于MI300X的大模型寫了一首關(guān)于活動舉辦地舊金山的詩。

這也是全球首次在單個GPU上運(yùn)行這么大的模型,據(jù)AMD介紹,單個MI300X可以運(yùn)行一個參數(shù)多達(dá)800億的模型。而在未來隨著AI模型越來越大,意味著需要更多GPU來運(yùn)行最新的大模型,而AMD芯片上內(nèi)存的增加,意味著開發(fā)人員不需要那么多GPU,可以為用戶節(jié)省大量成本。

60a97e44-0a8e-11ee-962d-dac502259ad0.png

蘇姿豐表示,MI300X將于今年第三季度向一些客戶提供樣品,并于第四季度量產(chǎn)。同時AMD還發(fā)布了AMD Instinct Platform,集合了8個MI300X,可提供總計1.5TB的HBM3內(nèi)存。對標(biāo)英偉達(dá)的CUDA,AMD也介紹了自身的芯片軟件ROCm,AMD總裁Victor Peng稱,在構(gòu)建強(qiáng)大的軟件堆棧方面,AMD取得了真正的巨大進(jìn)步,ROCm軟件棧可與模型、庫、框架和工具的開放生態(tài)系統(tǒng)配合使用。

之所以將重心放在AI芯片,也是因?yàn)锳MD非??春梦磥淼腁I市場。蘇姿豐認(rèn)為,數(shù)據(jù)中心人工智能加速器的潛在市場總額將從今年的300億美元增長到2027年的1500億美元以上。

硬剛英偉達(dá),但尚未透露大客戶

從AMD所介紹的產(chǎn)品性能來看,將成為當(dāng)下AI市場的有力競爭者,尤其在ChatGPT等生成式AI的帶動下,市場對高性能GPU需求旺盛。不過當(dāng)前市場中,英偉達(dá)處于絕對優(yōu)勢,占據(jù)80%的市場。

而AMD并沒有公布這款GPU的具體價格,但是對比英偉達(dá)H100價格大多在3萬美元以上,如果MI300X價格能夠更加實(shí)惠,將顯著的對英偉達(dá)產(chǎn)品造成沖擊,并有助于降低生成式AI的研發(fā)成本。

有意思的是,在如此強(qiáng)勁的性能面前,市場卻似乎并不買單。截至當(dāng)日收盤,AMD股價反而下降了3.61%,市值來到2000億元關(guān)口。而英偉達(dá)股價則拉升了3.9%,總市值達(dá)到1.01萬億美元,是AMD的五倍。

此次AMD并未透露哪些公司會采用MI300X或簡配版MI300A,而在此前的發(fā)布會中,AMD都會披露新產(chǎn)品的大客戶。這可能讓市場認(rèn)為,目前并沒有大客戶為這款芯片買單。

另一方面,AMD并沒有透露新款A(yù)I芯片的具體售價,但想要有顯著的成本優(yōu)勢可能不太現(xiàn)實(shí),因?yàn)楦呙芏鹊腍BM價格昂貴。即便MI300X的內(nèi)存達(dá)到了192GB,但這也不是顯著優(yōu)勢,因?yàn)橛ミ_(dá)也擁有相同內(nèi)存規(guī)格的產(chǎn)品。

更重要的原因在于,MI300并不具備H100所擁有的Transformer Engine。Transformer Engine能夠用于加速Transformer模型,以在AI的訓(xùn)練和推理中以較低的內(nèi)存利用率提供更好的性能。

有分析師認(rèn)為,如果訓(xùn)練一個新的模型,需要投入數(shù)千個GPU,并耗費(fèi)一年的時間,那么幾乎不會有人會浪費(fèi)2-3年或者投入3倍數(shù)量的GPU。而Transformer Engine能夠讓大模型實(shí)現(xiàn)三倍的性能表達(dá)。

盡管市場中認(rèn)為,AMD的MI300芯片應(yīng)該是除了谷歌的TPU之外,能與英偉達(dá)在AI訓(xùn)練端上匹敵的產(chǎn)品。成為當(dāng)前大企業(yè)在訓(xùn)練AI大模型時,除了英偉達(dá)之外的另一個重要選擇。

但想要在短時間內(nèi)挑戰(zhàn)英偉達(dá),顯然還是比較困難的。就如AMD總裁VictorPeng說的那樣,“盡管這是一個過程,但我們在構(gòu)建強(qiáng)大的軟件堆棧方面取得了很大進(jìn)展,該軟件堆棧與開放的模型、庫、框架和工具生態(tài)系統(tǒng)兼容?!?/p>

無論如何需要市場中有大客戶切實(shí)的使用AMD新款芯片。

小結(jié)

AMD此次重磅發(fā)布的MI300系列芯片,無疑為AI市場注入了一劑強(qiáng)心針,不僅預(yù)示著AMD在持續(xù)看好未來的AI市場,也將表明AMD將在這一市場中與英偉達(dá)正面競爭。至少對于相關(guān)企業(yè)及用戶而言,有更多的選擇是一件好事。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • amd
    amd
    +關(guān)注

    關(guān)注

    25

    文章

    5711

    瀏覽量

    140462
  • 人工智能
    +關(guān)注

    關(guān)注

    1821

    文章

    50376

    瀏覽量

    267082
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2168

    瀏覽量

    36871

原文標(biāo)題:AMD硬剛英偉達(dá),推出Instinct MI300,單芯片可運(yùn)行800億參數(shù)

文章出處:【微信號:elecfanscom,微信公眾號:核芯產(chǎn)業(yè)觀察】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    SiC+GaN成核心!一文匯總英偉達(dá)800V HVDC認(rèn)證廠商解決方案

    電子發(fā)燒友網(wǎng)報道(文/梁浩斌)AI芯片的功率在算力需求迭代的基礎(chǔ)上,不斷提高,短短幾年間,英偉達(dá)的GPU從A100單個TDP 為300W(40GB)和400W(80GB),到目前GB
    的頭像 發(fā)表于 10-21 09:26 ?8348次閱讀

    阿里神秘AI芯片曝光:多項(xiàng)參數(shù)超越英偉達(dá)A800

    ,并交由中國大陸代工廠生產(chǎn),已經(jīng)進(jìn)入測試階段。 ? 然而在9月16日晚,央視《新聞聯(lián)播》節(jié)目中,阿里平頭哥AI算力卡PPU在新聞背景畫面里被曝光,在“國產(chǎn)卡與NV卡重要參數(shù)對比”表格中顯示,PPU在顯存、片間帶寬等多項(xiàng)硬件參數(shù)均超越
    的頭像 發(fā)表于 09-18 09:46 ?8984次閱讀
    阿里神秘AI<b class='flag-5'>芯片</b>曝光:多項(xiàng)<b class='flag-5'>參數(shù)</b>超越<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>A<b class='flag-5'>800</b>

    性能狂飆!AMD新品叫板英偉達(dá)GB200,角逐5000AI加速器賽道

    AMD線上會議截圖 本次大會上,蘇姿豐重點(diǎn)宣布了MI350 系列和 MI400 系列 AI 芯片的強(qiáng)大性能,她表示這些芯片將與
    的頭像 發(fā)表于 06-14 00:44 ?6630次閱讀
    性能狂飆!<b class='flag-5'>AMD</b>新品叫板<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>GB200,角逐5000<b class='flag-5'>億</b>AI加速器賽道

    硅光成AI勝負(fù)手?英偉達(dá)20美元戰(zhàn)略投資Marvell

    電子發(fā)燒友網(wǎng)報道(文 / 吳子鵬)當(dāng)?shù)貢r間 3 月 31 日(周二),全球市值最高的半導(dǎo)體企業(yè)英偉達(dá)正式宣布,向美國半導(dǎo)體廠商邁威爾科技(Marvell,MRVL.US)戰(zhàn)略投資 20 美元,將其
    的頭像 發(fā)表于 04-06 07:02 ?1.2w次閱讀

    偉創(chuàng)力與AMD進(jìn)一步深化戰(zhàn)略合作

    近日,偉創(chuàng)力宣布與全球領(lǐng)先的高性能與自適應(yīng)計算芯片公司 AMD(超威半導(dǎo)體) 進(jìn)一步深化戰(zhàn)略合作,在美國本土制造 AMD Instinct 平臺,加速先進(jìn) AI 基礎(chǔ)設(shè)施落地。作為合作
    的頭像 發(fā)表于 03-11 15:11 ?455次閱讀

    馬斯克宣布: A15完成設(shè)計,未來芯片迭代快過AMD英偉達(dá)

    1 月 18 日,特斯拉首席執(zhí)行長伊隆·馬斯克(Elon Musk)宣布一項(xiàng)雄心勃勃的人工智能(AI)芯片路線圖,計劃每九個月推出新一代 AI 處理器,這個速度將超越競爭對手英偉達(dá)
    的頭像 發(fā)表于 01-19 10:21 ?1.8w次閱讀
    馬斯克宣布: A15完成設(shè)計,未來<b class='flag-5'>芯片</b>迭代快過<b class='flag-5'>AMD</b>和<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>

    再加25%關(guān)稅!鎖定對華AI芯片,點(diǎn)名英偉達(dá)、AMD

    電子發(fā)燒友網(wǎng)綜合報道,1月14日,美國總統(tǒng)特朗普簽署行政令,宣布對部分先進(jìn)人工智能(AI)芯片及衍生產(chǎn)品加征25%的從價關(guān)稅。以“國家安全”為名,加速重構(gòu)其芯片產(chǎn)業(yè)政策。在公告中明確提到A英偉
    的頭像 發(fā)表于 01-16 09:20 ?6335次閱讀
    再加25%關(guān)稅!鎖定對華AI<b class='flag-5'>芯片</b>,點(diǎn)名<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>、<b class='flag-5'>AMD</b>

    英偉達(dá) Q3 狂攬 308

    英偉達(dá) 2025 財年第三季度交出亮眼成績,數(shù)據(jù)中心業(yè)務(wù)營收飆至 308 美元,同比增長 112%,占總銷售額的 88%。這一爆發(fā)式增長,核心源于全球 AI 算力需求激增,谷歌、微
    的頭像 發(fā)表于 11-20 18:11 ?1400次閱讀

    NVIDIA新聞:英偉達(dá)10美元入股諾基亞 英偉達(dá)推出全新量子設(shè)備

    給大家分享一些NVIDIA新聞: 英偉達(dá)10美元入股諾基亞 在當(dāng)?shù)貢r間10月28日,英偉達(dá)正式宣布將以10
    的頭像 發(fā)表于 10-29 17:12 ?2477次閱讀

    英偉達(dá)追加800G光模塊訂單!兩大巨頭瓜分六成

    投資,左腳踩右腳螺旋升天,也為AI基建帶來了實(shí)打?qū)嵉挠唵晤A(yù)期。包括OpenAI向甲骨文下的5年3000美元云服務(wù)大;甲骨文向英偉達(dá)采購3000
    的頭像 發(fā)表于 10-10 09:11 ?7275次閱讀

    今日看點(diǎn):蘋果認(rèn)證中國快充品牌遭美調(diào)查;英偉達(dá)擬向OpenAI投資最高1000美元

    系統(tǒng)建設(shè)并部署至少10吉瓦的人工智能(AI)數(shù)據(jù)中心,用于訓(xùn)練和運(yùn)行下一代模型。這一耗電量相當(dāng)于800萬戶美國家庭的用電量。 英偉達(dá)CEO黃仁勛曾表示,10吉瓦相當(dāng)于400萬至500萬
    發(fā)表于 09-23 10:09 ?515次閱讀

    外媒:英偉達(dá)正開發(fā)新款中國特供芯片B30A 或?yàn)槠炫濧I芯品B300的閹割版

    我們看到英偉達(dá)的旗艦新品 B300備受關(guān)注;但是受限于美國實(shí)施出口限制措施,英偉達(dá)不會出貨,就像此前英偉
    的頭像 發(fā)表于 08-20 15:19 ?4096次閱讀
    外媒:<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>正開發(fā)新款中國特供<b class='flag-5'>芯片</b>B30A 或?yàn)槠炫濧I芯品B<b class='flag-5'>300</b>的閹割版

    今日看點(diǎn)丨消息稱智駕基礎(chǔ)芯片配套8GB小容量存儲芯片價格開始暴漲;英偉達(dá)推出具身智能推理模型Cosmos Re

    了一項(xiàng)特殊協(xié)議,兩家企業(yè)同意將特供中國的芯片收入的15%上繳給美國政府,以換取相關(guān)產(chǎn)品的出口許可證。 2023年10月,美國商務(wù)部公布對華半導(dǎo)體出口管制最終規(guī)則,進(jìn)一步加大對人工智能相關(guān)芯片、半導(dǎo)體制造設(shè)備的對華出口限制。英偉
    發(fā)表于 08-12 09:41 ?2592次閱讀

    重磅!AMD將恢復(fù)向中國出口MI308芯片

    出貨?!?此前美國政府針對Instinct MI308產(chǎn)品出貨至中國進(jìn)行出口管制,該產(chǎn)品與英偉達(dá)H20一樣禁止向中國銷售。 ? 如今,MI3
    的頭像 發(fā)表于 07-15 20:52 ?3847次閱讀
    湘阴县| 盱眙县| 永德县| 东港市| 罗江县| 屯留县| 东乡| 东莞市| 牟定县| 宁陵县| 常山县| 弥勒县| 兴山县| 岳阳县| 山西省| 盐亭县| 长乐市| 太保市| 苏尼特右旗| 星子县| 建阳市| 顺义区| 长治市| 辽源市| 天长市| 呈贡县| 台前县| 宜兰市| 苏尼特左旗| 东丰县| 安达市| 九龙县| 鄄城县| 龙口市| 盈江县| 永平县| 通辽市| 饶平县| 读书| 莫力| 昌江|