日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

生成式AI帶火的不止GPU,網(wǎng)絡芯片迎來下一輪大戰(zhàn)

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚 ? 2023-06-30 01:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/周凱揚)在生成式AI的熱度之下,橫向擴展AI訓練與推理性能成了每個云服務廠商、數(shù)據(jù)中心以及互聯(lián)網(wǎng)廠商追求的目標,這點從前段時間的GPU搶購潮就能看出來,龐大的GPU基數(shù)在當下幾乎可以和強大的AI算力畫上等號。

然而,真正將這些GPU連接起來的,還是靠以太網(wǎng)交換機、路由這類網(wǎng)絡芯片。隨著數(shù)據(jù)中心解耦趨勢愈發(fā)明顯,相繼認識到這一點的網(wǎng)絡芯片廠商都開始新一輪的軍備競賽,諸如博通、美滿和思科等廠商都已經加快了新品推出的節(jié)奏。

博通Tomahawk

作為在數(shù)據(jù)中心網(wǎng)絡芯片耕耘了12年以上的博通,從640G的Trident系列到25.6T的Tomahawk4系列,已經完成了多次設計迭代,顯著提高了網(wǎng)絡芯片的帶寬。今年三月,博通終于發(fā)布了Tomahawk 5系列網(wǎng)絡芯片,也是市面上首個量產51.2Tbps交換帶寬的芯片。

新的Tomahawk 5系列無疑是在暴漲的AI需求下誕生的,我們從其設計中也能看出。由于做到了更高的端口密度,Tomahawk 5可以實現(xiàn)256高性能AI/ML加速器之間的單跳連接,且每個都能做到200Gbps的網(wǎng)絡帶寬。這對于數(shù)據(jù)中心的AI訓練和推理的負載來說,無疑提高了吞吐效率,尤其是日益流行且愈發(fā)復雜的生成式AI模型。

wKgZomSdWGCACur4AAFkjhy-LfI022.jpg
Trident和Tomahawk芯片路線圖 / 博通


在物理設計上,Tomahawk 5采用了如今已經趨近成熟的共封裝光學(CPO)方案,相較過去的光模塊在前端面板插拔的方案,CPO選擇將網(wǎng)絡交換芯片和光模塊封裝在一起。這一封裝方案結合5nm的芯片工藝,將功耗進一步降低了30%。

另外值得一提的是,博通的第三條網(wǎng)絡芯片產品線,Jericho,也在近期迎來了新品Jericho3-AI。相比以高帶寬為重心的Tomahawk產品線,和主打更多功能性的Trident產品線,Jericho往往以較低帶寬、深度緩存和高可編程性著稱。

而Jericho3-AI雖然確實是28.8T的以太網(wǎng)交換機芯片,卻針對AI訓練負載做了特殊的優(yōu)化,更高的端口密度使得Jericho3-AI可以在單個集群中連接32000個GPU,并做到800Gbps的連接帶寬表現(xiàn)。博通甚至將其與英偉達自己的InfiniBand方案對比,Jericho3-AI在完成時間上有著10%左右的優(yōu)勢。這也是Jericho系列獨有的優(yōu)勢,實現(xiàn)標準以太網(wǎng)芯片無法實現(xiàn)卻在AI或HPC應用上被看重的靈活功能。

思科Silicon One

其實早在2019年思科首次推出Silicon One網(wǎng)絡芯片時,博通CEO霍克·譚就表示:“思科在該市場的參與,恰巧驗證了我們推進的這一行業(yè)趨勢,也就是數(shù)據(jù)中心的解耦。我們很高興自己再次押對了,也歡迎更多的競爭?!币溃暗乃伎瓶墒遣┩ǖ膬?yōu)質客戶之一,如今身份的轉變已經對網(wǎng)絡芯片的市場格局產生了不小的影響。

wKgaomSdWGqAN4RAAAF6las7nPg625.jpg
Silicon One芯片路線圖 / 思科


在第一代自研芯片Silicon One發(fā)布三年半之后,思科在近日終于推出了該產品線的第四代產品,以太網(wǎng)交換機芯片G200和G202。其中G200專注于統(tǒng)一架構和基于以太網(wǎng)的AI/ML應用部署,這個采用 5nm工藝打造的芯片,基于512個112Gbps SerDes打造,同樣可以做到51.2Tbps的交換帶寬。

而G202則是針對想要繼續(xù)使用50G SerDes的客戶打造的,同樣基于5nm的工藝,G202采用了512x56Gbps SerDes的配置,其特性與G200完全一致,只不過交換性能只有G200的一半。

根據(jù)思科的說法,由于單設備512個100GE以太網(wǎng)端口的超高端口密度,客戶可以在一個雙層網(wǎng)絡上構建由32000個400G GPU組成的AI/ML集群。借助G200打造這樣一個龐大的網(wǎng)絡,卻依然可以省去50%的光學組件、40%左右的交換機,極大減少這類集群的碳足跡,每年最高可以省下900萬kWh的耗能。據(jù)了解,G200已經送樣給六大云服務商中的五家進行測試了。

美滿Teralynx

在收購由幾位前博通高管打造的芯片初創(chuàng)公司Innovium后,美滿也開始了他們的網(wǎng)絡芯片逆襲。同樣是在今年3月,美滿也推出了自己的51.2Tbps交換機芯片,Teralynx 10。相比其他兩家,美滿為Teralynx 10選擇的定位是超低延遲的可編程交換機芯片,這也是此前Innovium的設計目標。

不過直至目前為止,美滿并沒有將Teralynx并入自己的Prestera產品線內,看來Prestera應該還是主打企業(yè)與邊緣數(shù)據(jù)中心市場,而面向云端數(shù)據(jù)中心的Teralynx系列繼續(xù)沿用原來的產品線名稱。

除了用到業(yè)界頂級的112G SerDes IP和先進的工藝實現(xiàn)低功耗的系統(tǒng)設計以外,美滿電子宣稱Teralynx 10可以提供1.7倍的延遲優(yōu)勢,這對于生成式AI這種看重完成時間和網(wǎng)絡傳輸時間的應用來說至關重要。

wKgaomSdWHOATyvjAACvKFyVHqE636.png
企業(yè)與數(shù)據(jù)中心的交換芯片方案 / 美滿


還有一點與其他兩家不同的是,Teralynx 10可以驅動128個400Gbps端口、64個800Gbps端口和32個1.6Tbps端口,1.6Tbps的端口驅動能力可以說是放眼未來了,這也意味著Teralynx 10可以直接在1RU大小的機柜中實現(xiàn)51.2Tbps的性能。

為此,美滿也推出了Nova這一業(yè)界首個做到1.6Tbps的PAM4電光平臺,Nova基于美滿的200Gbps/lambda光DSP打造,足以為1.6Tbps的可插拔光模塊提供支持。由于DSP的帶寬翻倍,基于Nova的光模塊不僅減少了所需激光和相關光學組件的數(shù)量,相較其他的方案來說穩(wěn)定性也同樣加倍。雖然800Gbps的光模塊仍在普及中,但要想在下一代數(shù)據(jù)中心交換網(wǎng)絡中搶占先機,1.6Tbps的光模塊也該盡快提上日程了。

寫在最后

之所以這些廠商都能這么快推出下一代高性能網(wǎng)絡芯片,其實還是靠EDA/IP和封裝技術打好了第一波基礎,廠商們先一步推出了完善的以太網(wǎng)IP和共封裝光學方案。不過這也意味著過去數(shù)據(jù)中心交換硬件很可能迎來新一波的換代,從目前來看應該是只有大型云服務廠商有這個資本進行大規(guī)模替換。

但除了這些網(wǎng)絡芯片公司之間的斗爭之外,他們也需要提防英偉達這樣既有GPU業(yè)務又有網(wǎng)絡芯片業(yè)務的廠商。以上提到的這三家在推出的新品上都有劍指英偉達InfiniBand的意思,畢竟后者從一開始就是為了HPC和AI打造的通信標準,而它們則是剛從Web Scaling轉向AI Scaling,從外部網(wǎng)絡交換轉為內部網(wǎng)絡交換,仍需要不斷提升產品性能才能在這個競爭激烈的市場上存活下去。

不過這也可以看出AI帶來的熱度,因為無論是從軟件還是從硬件上,產品的迭代速度都有了成倍提升。800GbE時代的到來,也導致所有想在服務器市場創(chuàng)造增長的廠商紛紛趨之若鶩,好在這樣的趨勢恰恰是服務器市場急需的一劑強心劑。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5283

    瀏覽量

    136105
  • AI
    AI
    +關注

    關注

    91

    文章

    41326

    瀏覽量

    302731
  • 生成式AI
    +關注

    關注

    0

    文章

    538

    瀏覽量

    1135
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    AI Ceph 分布存儲教程資料大模型學習資料2026

    瓶頸:從傳統(tǒng)存儲向 AI 專用架構演進 在大模型訓練場景下,計算節(jié)點(GPU)的運算速度極快,往往在毫秒級就能完成一輪數(shù)據(jù)的處理。如果后端存儲無法跟上這速度,
    發(fā)表于 05-01 17:35

    自研算/存/電/連,AI算力芯片黑馬宣布完成新一輪融資

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)近日,AI算力芯片領域的創(chuàng)新企業(yè)圖靈進化(TuringEvo)宣布完成新一輪數(shù)千萬級別的融資。這筆資金將主要用于核心產品量產、研發(fā)團隊擴充以及全球市場拓展,為圖靈進化
    的頭像 發(fā)表于 04-15 15:29 ?5171次閱讀
    自研算/存/電/連,<b class='flag-5'>AI</b>算力<b class='flag-5'>芯片</b>黑馬宣布完成新<b class='flag-5'>一輪</b>融資

    嵌入AI開發(fā)必看:杜絕幻覺,才是工業(yè)級IDE的核心底氣

    以全流程校驗調試體系為核心,結合十余年工業(yè)實踐沉淀,給出了工業(yè)級嵌入 AI 開發(fā)的確定性解決方案。 、 AI 幻覺的危害與行業(yè)困境 在工業(yè)嵌入
    發(fā)表于 03-18 13:49

    深蘭科技國際業(yè)務迎來一輪布局推進

    在人工智能加速進入實體產業(yè)深水區(qū)的背景下,深蘭科技國際業(yè)務迎來一輪布局推進。北歐市場授權體系正式確立,工程設備樣機進入海外驗證階段,非洲醫(yī)療板塊實現(xiàn)突破性對接,全球業(yè)務結構持續(xù)向縱深拓展。
    的頭像 發(fā)表于 03-04 15:12 ?581次閱讀

    星融元完成新一輪融資,攜手產業(yè)資本加速AI網(wǎng)絡市場布局

    星融元完成新一輪融資,由廈門聯(lián)合、湖南財信共同投資。公司作為AI網(wǎng)絡架構領先者,構建“云網(wǎng)融合、開放解耦”技術體系,提供全棧網(wǎng)絡解決方案。其AI
    的頭像 發(fā)表于 01-23 16:10 ?1270次閱讀
    星融元完成新<b class='flag-5'>一輪</b>融資,攜手產業(yè)資本加速<b class='flag-5'>AI</b><b class='flag-5'>網(wǎng)絡</b>市場布局

    AI需求井噴!晶圓代工即將開啟新一輪漲價#人工智能 #晶圓#AI

    AI
    jf_15747056
    發(fā)布于 :2025年12月26日 18:53:49

    億鑄科技完成新一輪融資

    近日,億鑄科技完成新一輪融資。本次融資由興湘資本、農銀國際、盈科值得、合鼎共資本共同參與。此次融資的完成,標志著億鑄科技在AI大算力芯片領域的創(chuàng)新實力再獲重要認可。
    的頭像 發(fā)表于 10-31 17:06 ?1115次閱讀

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片

    解決人類智能無法解決的復雜問題。實現(xiàn)AGI的AI相關研究機構和企業(yè)的主要目標。 、生成AI點燃AGI之火 CHatGPT就是已經取得成功
    發(fā)表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用

    種快速反應能力,是直接的感知;靈感是種通過思考和探索獲得的創(chuàng)造性想法,是種創(chuàng)意。 AI怎么模擬直覺與靈感呢?四、AI代替人類的假說
    發(fā)表于 09-17 11:45

    成都匯陽投資關于AI驅動電子行業(yè)迎來一輪業(yè)績爆發(fā)

    ? ? AI 驅動半導體成長新動力 半導體領域需求周期向上 ,AI 成為核心增長動力 ,模擬芯片周期觸底 、數(shù)字芯片AioT需求爆發(fā) 、功率半導體盈利改善、制造稼動率 回升、設備業(yè)績強
    的頭像 發(fā)表于 09-16 10:21 ?1129次閱讀

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)

    當今社會,AI已經發(fā)展很迅速了,但是你了解AI的發(fā)展歷程嗎?本章作者將為我們打開AI的發(fā)展歷程以及需求和挑戰(zhàn)的面紗。 從2017年開始生成
    發(fā)表于 09-12 16:07

    智能體化AI生成AI的區(qū)別

    步驟,甚至在沒有明確指令時主動行動。舉個例子:生成 AI 可能會幫你生成個“本周出差清單”,而智能體化
    的頭像 發(fā)表于 08-25 17:24 ?1939次閱讀

    【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》

    :科技探索與 AGI 愿景》。 這本新書針對大模型技術浪潮,詳細講解了AI芯片的主流技術、挑戰(zhàn)與創(chuàng)新解決方案,并介紹了下一芯片工藝和顛覆性AI
    發(fā)表于 07-28 13:54

    谷歌新生成AI媒體模型登陸Vertex AI平臺

    我們在 Vertex AI 上推出新生成 AI 媒體模型: Imagen 4、Veo 3 和 Lyria 2。
    的頭像 發(fā)表于 06-18 09:56 ?1331次閱讀

    一輪的工業(yè)“智變”

    當下,全球產業(yè)鏈正面臨供應鏈重構、個性化需求增長以及深度數(shù)字化與可持續(xù)發(fā)展的重要節(jié)點。工業(yè)需要經歷新一輪的“智變”,從自動化升級到自主化,并向著柔性化、智能化、以及人機協(xié)同的工業(yè)5.0愿景邁進。
    的頭像 發(fā)表于 05-15 13:46 ?1371次閱讀
    灌阳县| 石家庄市| 井研县| 南靖县| 丰都县| 乌鲁木齐市| 阳西县| 石屏县| 沂源县| 彩票| 冷水江市| 宝丰县| 萝北县| 华坪县| 海林市| 南木林县| 岳阳市| 子洲县| 苏尼特右旗| 嫩江县| 平塘县| 玛曲县| 奈曼旗| 宝清县| 东海县| 舒城县| 林口县| 和龙市| 新野县| 南召县| 衡阳县| 鱼台县| 彭泽县| 孝义市| 上犹县| 高尔夫| 广元市| 鄂伦春自治旗| 寿阳县| 大新县| 山东|