省成本還是省時間，AI計算上的GPU與ASIC之選
電子發(fā)燒友網(wǎng)報道（文/周凱揚）隨著AI計算逐漸蠶食通用計算的份額，數(shù)據(jù)中心的硬件市場已經(jīng)開始出現(xiàn)了微妙的變化。最搶手的目前已經(jīng)成了GPU，反觀CPU、ASIC和FPGA等硬件，開始成為陪襯。但高昂的售價以及強綁定的供應關(guān)系，還是讓不少企業(yè)開始探索別的出路。
仍在被瘋搶的GPU
在今年第一季度AI熱潮高漲下，全球已經(jīng)開啟了一波GPU搶購。無論是借助GPU開發(fā)各自大模型應用的互聯(lián)網(wǎng)廠商，還是想借此發(fā)展其AI服務(wù)器業(yè)務(wù)的云服務(wù)廠商，都在搶購英偉達目前主推的A100和H100兩大GPU。
就連臺積電哪怕第一季度業(yè)績下滑明顯，其CEO魏哲家在法說會上也表示在AI相關(guān)的需求上觀察到了增量上行，將幫助其在今年實現(xiàn)可觀的庫存消化。
H100 GPU / 英偉達
在美國商務(wù)部半導體出口新規(guī)剛推出不久，A100在非正常渠道的單價就飆升至20000美元，是原價的兩倍左右。為此英偉達僅僅面向中國市場推出了A800和H800，只不過將高速互聯(lián)總線NVLink限制在了400GB/s，但好歹仍足以滿足大部分AI計算的需求。
可好景不長，隨著緊缺和搶購的趨勢很快蔓延到了A800和H800上，據(jù)了解，國內(nèi)市場的A800單價一周上漲了30%，從原來9萬元上升至13萬元，甚至連帶使得搭載該卡的服務(wù)器現(xiàn)貨同樣漲價，頗有當年礦潮期顯卡漲價整機一并漲價的趨勢。
使其狀況更加惡化的是，英偉達據(jù)傳大量削減了A800的供應，而是轉(zhuǎn)為推廣更高端也更昂貴的H800，單價在25萬元左右。高端的GPU無疑能夠帶來更高的性能，但性價比相對較低，大規(guī)模部署的成本也會更加難以承受。所以從全球市場的購買表現(xiàn)上來看，互聯(lián)網(wǎng)公司和云服務(wù)廠商顯然覺得A100或A800更香一點。
可為了更高的利潤轉(zhuǎn)化，英偉達決心調(diào)整A800和H800的供應比例的話，也就說得過去了。A100的市場流通率較高，而A800這種面世不久的特供產(chǎn)品，也更方便在供應上加以限制。
省時和省錢
既然GPU困人已久，為何不打破這一限制，轉(zhuǎn)用大規(guī)模量產(chǎn)成本更低的ASIC產(chǎn)品呢？事實上，很多廠商早就有類似的心思，只不過執(zhí)行起來卻是寸步難行。首先對于大模型這樣的AI應用來說，硬件性能只是一個方面，擁有優(yōu)質(zhì)的軟件生態(tài)也很重要。
英偉達的CUDA成了任何進軍AI產(chǎn)業(yè)的公司在軟件生態(tài)上的一頭攔路虎，遲遲沒法突破。固然ASIC的方案可以省下不少硬件成本，但在軟件上仍有不小的障礙。初創(chuàng)公司ASIC硬件的軟件生態(tài)不成熟，巨頭自研的產(chǎn)品又難以與第三方開發(fā)結(jié)合起來，或者說能打造出爆品應用的概率更低。
反觀CUDA，發(fā)展這么多年積累的各種library已經(jīng)逐漸趨于成熟，甚至在英偉達的GPU上優(yōu)化到了最佳狀態(tài)，開發(fā)者只需要調(diào)用API即可實現(xiàn)所需的效果。這堵墻就連同為GPU廠商的AMD等競爭對手都未能攻破，因為AI時代下省時才能搶占先機，省錢是之后采取考慮的事。
話雖如此，相關(guān)的嘗試依舊沒有停止，諸如谷歌的TPU、亞馬遜的Trainium以及微軟最近在研究的Chiplet Cloud等等，都是廠商們對ASIC持續(xù)看好的表現(xiàn)?？梢钥闯?，讓互聯(lián)網(wǎng)企業(yè)，尤其是芯片設(shè)計能力欠缺的企業(yè)，去走ASIC這條路線是很難的。而托管了諸多第三方芯片設(shè)計平臺、大模型和AI計算負載的云服務(wù)廠商，有這個技術(shù)積累，也有實力組建或已組建達標的芯片設(shè)計隊伍，最終做到省時又省錢。
寫在最后
ASIC固然前景可觀，但目前廠商們在購置GPU上花的錢多半是多于自研投入的，這也就是GPU作為通用計算硬件的future proofing性質(zhì)。可能在GPT爆火的今年，這款ASIC提供了遠超GPU的性能或成本優(yōu)勢，但未來保不齊會出現(xiàn)其他的爆品應用。GPU可以很快調(diào)轉(zhuǎn)勢頭，但ASIC就可能會被淘汰。所以對這些公司來說，無論是購買A100還是A800，不僅是對現(xiàn)在的投資，也是對未來的投資。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
asic
+關(guān)注
關(guān)注
34文章
1278瀏覽量
124974 -
gpu
+關(guān)注
關(guān)注
28文章
5283瀏覽量
136095 -
AI
+關(guān)注
關(guān)注
91文章
41305瀏覽量
302685
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
國產(chǎn)來襲！2nm AI GPU？
的時間和成本內(nèi)實現(xiàn)。 ? 近日，據(jù)媒體報道，上海棣山科技有限公司（以下簡稱“棣山科技”）對外披露其2nm高端AI GPU芯片最新研發(fā)進展。據(jù)悉，該公司自主攻關(guān)的這款芯片已達到國際前沿設(shè)
電池測試設(shè)備：告別繁瑣，一步到位！省時間成本
新能源汽車等產(chǎn)業(yè)高速發(fā)展，鋰電池等儲能電芯及模組的安全、壽命、效率等成產(chǎn)品品質(zhì)與競爭力的核心。電池作為動力核心，電化學狀態(tài)復雜，全生命周期中任何問題都會引發(fā)故障、事故或縮短壽命。電池測試設(shè)備是質(zhì)量管控與性能評估的核心裝備，依托多項核心技術(shù)，將微觀變化轉(zhuǎn)化為精準數(shù)據(jù)，為電池研發(fā)、生產(chǎn)、質(zhì)檢、運維提供支撐，是新能源產(chǎn)業(yè)鏈發(fā)展的核心基礎(chǔ)裝備。 一、電池測試設(shè)備的核心工作底層技術(shù)原理 電池測試設(shè)備是綜合性智能
L9659八通道爆管驅(qū)動器ASIC：安全應用的理想之選
L9659八通道爆管驅(qū)動器ASIC：安全應用的理想之選 在當今復雜的電子系統(tǒng)中，安全應用一直是重中之重。對于航空、汽車等領(lǐng)域的安全氣囊系統(tǒng)而言，穩(wěn)定可靠的爆管驅(qū)動器是確保其正常工作的關(guān)鍵。L9659
AI ASIC：博通份額將達60%，聯(lián)發(fā)科成長顯著，臺積電成最大贏家
Counterpoint指出，AI芯片熱潮進入第二階段，ASIC與GPU競爭激烈，博通和臺積電有望成最大贏家。 ? Counterpoint預測，AI
重磅合作！Quintauris 聯(lián)手 SiFive，加速 RISC-V 在嵌入式與 AI 領(lǐng)域落地
SoC 開發(fā)流程，幫開發(fā)者省時間；
優(yōu)化下一代 RISC-V 設(shè)計的性能和能效，進一步拉高性能上限；
把 RISC-V 打造成能和傳統(tǒng)專有處理器架構(gòu)抗衡的方案，畢竟 RISC-V 的靈活性、定制化能力
發(fā)表于 12-18 12:01
為啥 AI 計算速度這么驚人？—— 聊聊 GPU、內(nèi)存與并行計算
提到AI，大家常說它“算得快”，其實是指AI能在眨眼間處理海量數(shù)據(jù)?？伤鼮樯队羞@本事？答案就藏在“GPU+高速內(nèi)存+并行計算”這trio（組合）里。咱們可以把
國產(chǎn)MCU開始卷開發(fā)工具了？McuStudio是對STM32Cube的拙劣模仿還是真香逆襲？
開McuStudio，老STM32用戶DNA就動了。時鐘樹、引腳分配、外設(shè)配置，全是那個味兒?？梢哉f，在降低STM32用戶遷移成本這點上，它算是玩明白了。
? 解決痛點
最直接的，就是幫懶人（比如我）省時間
發(fā)表于 10-31 10:18
AI芯片市場鏖戰(zhàn)，GPU與ASIC誰將占據(jù)主動？
本文轉(zhuǎn)自：TechSugar隨著人工智能技術(shù)在大模型訓練、邊緣計算、自動駕駛等領(lǐng)域的深度滲透，核心算力硬件的競爭進入白熱化階段。圖形處理單元（GPU）與專用集成電路（ASIC）作為兩大主流技術(shù)路線
【「AI芯片：科技探索與AGI愿景」閱讀體驗】+第二章 實現(xiàn)深度學習AI芯片的創(chuàng)新方法與架構(gòu)
的時間縮短、效率提升的硬件架構(gòu)非常重要。因此存內(nèi)加速方案，X-Former應運而生。它是一種混合存內(nèi)計算架構(gòu)，結(jié)合了NVM和基于互補金屬氧化物半導體（CMOS）的處理元件。
架構(gòu)如下：
2.2 閃存AI
發(fā)表于 09-12 17:30
【「AI芯片：科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)
的工作嗎？
從書中也了解到了AI芯片都有哪些？像CPU、GPU、FPGA、ASIC都是AI芯片。
其他的還是知道的，F(xiàn)PGA屬于
發(fā)表于 09-12 16:07
AI 芯片浪潮下，職場晉升新契機？
、新架構(gòu)不斷涌現(xiàn)。能夠在工作中提出創(chuàng)新性的解決方案，推動 AI 芯片性能、功耗、成本等關(guān)鍵指標的優(yōu)化，將極大提升在職稱評審中的競爭力。例如，在芯片設(shè)計中引入新的計算范式，如存算一體技術(shù)，有效解決傳統(tǒng)馮?諾
發(fā)表于 08-19 08:58
電動機噪聲、振動和聲振粗糙度開發(fā)：使用低計算成本的系統(tǒng)級模型預測早期噪聲、振動和聲振粗糙度
優(yōu)勢使用計算成本低的系統(tǒng)級模型在動態(tài)運行條件下對電驅(qū)動裝置執(zhí)行早期噪聲、振動和聲振粗糙度評估優(yōu)化電機控制策略并做出更好的設(shè)計選擇，以提高電動汽車的噪聲、振動和聲振粗糙度使用Simcenter節(jié)省時間
AI芯片，需要ASIC
電子發(fā)燒友網(wǎng)報道（文/李彎彎） 2025年，全球AI芯片市場正迎來一場結(jié)構(gòu)性變革。在英偉達GPU占據(jù)主導地位的大格局下，ASIC（專用集成電路）憑借針對AI任務(wù)的定制化設(shè)計，成為推動算
Imagination與澎峰科技攜手推動GPU+AI解決方案，共拓計算生態(tài)
近日， Imagination Technologies 與國內(nèi)領(lǐng)先的異構(gòu)計算軟件與智算混合云服務(wù)提供商 澎峰科技 （ PerfXLab ）正式簽署合作備忘錄（ MoU ），圍繞 GPU 與 AI
發(fā)表于 05-21 09:40
?1299次閱讀
Imagination與澎峰科技攜手推動GPU+AI解決方案，共拓計算生態(tài)
近日，ImaginationTechnologies與國內(nèi)領(lǐng)先的異構(gòu)計算軟件與智算混合云服務(wù)提供商澎峰科技（PerfXLab）正式簽署合作備忘錄（MoU），圍繞GPU與AI的深度融合展開合作。雙方將
評論