日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

計算高速鏈路互連內(nèi)存和GPU以實現(xiàn)高性能

星星科技指導員 ? 來源:嵌入式計算設計 ? 作者:Saumitra Jagdale ? 2022-10-24 16:29 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著云計算技術的進步,數(shù)據(jù)中心的架構(gòu)內(nèi)存安排發(fā)生了重大變化。為了增強計算能力和廣泛的數(shù)據(jù)處理,需要集成擅長處理特定工作負載的加速器。雖然這些設備已經(jīng)通過PCI Express連接,但計算快速鏈路可以進一步改善優(yōu)化,因為它允許對各種系統(tǒng)組件進行異構(gòu)處理。

PCI Express是用于將主機處理器連接到加速器設備的最常見技術。它是一種高性能、行業(yè)標準的串行 I/O 接口,專為在企業(yè)、桌面和嵌入式應用中使用而開發(fā)。

同時,PCIe在具有大型共享內(nèi)存池和大量需要高帶寬的設備的系統(tǒng)中存在局限性。由于每個 PCIe 層次結(jié)構(gòu)都使用單個 64 位地址空間,因此 PCIe 未提供支持一致性的技術,并且無法充分維護單獨的內(nèi)存池。此外,PCIe 鏈路具有太多的延遲,無法有效地管理系統(tǒng)中多個設備之間的共享內(nèi)存。

因此,計算密集型工作負載需要與更快的數(shù)據(jù)流連接,以有效地擴展數(shù)據(jù)中心中的異構(gòu)計算。計算高速鏈路 (CXL) 通過利用 PCI 高速 5.0 的物理和電氣接口來挑戰(zhàn)一些限制。這項新技術提高了內(nèi)存容量和帶寬,并降低了延遲。它是高速通信的接口,因為加速器越來越多地用于補充CPU以支持新興應用。

什么是斷續(xù)器?

計算高速鏈路 (CXL) 是一種開放的行業(yè)標準內(nèi)存互連。它旨在為當今數(shù)據(jù)中心中使用的許多類型的內(nèi)存提供高性能連接,例如CPU,TPU,GPU和其他處理器類型。

CXL 利用 PCIe 5.0 的物理層基礎架構(gòu)在主機和所有設備之間創(chuàng)建公共內(nèi)存空間。緩存一致性標準可確保主機處理器和 CXL 設備在訪問數(shù)據(jù)時看到相同的數(shù)據(jù)。CPU 主機主要負責一致性管理,允許 CPU 和設備共享資源以獲得更高的性能并降低軟件堆棧的復雜性,從而降低設備總成本。

除了原始性能外,CXL還有其他優(yōu)勢。該技術是開源的,不像美光的3D Xpoint,這是迄今為止最接近高性能內(nèi)存互連的方法。美光和英特爾現(xiàn)在正在對沖他們對CXL的賭注,而不是專有技術。NVIDIA 和 AMD 的硬件系統(tǒng)還使用 CXL 來互連內(nèi)存和外部處理單元,以優(yōu)化性能。NVIDIA的GPU與CXL設計相結(jié)合,進行了如此廣泛的計算,并在內(nèi)存設計中進行了一些更改。

這種轉(zhuǎn)變的最重要結(jié)果將是CXL消除專有內(nèi)存互連。它是必不可少的,因為有幾種類型的企業(yè)存儲,每個處理器都通過專有連接訪問它們。這可能會使企業(yè)存儲基礎架構(gòu)變得復雜,并且無法預測其性能。

現(xiàn)在,由于CXL,每個處理器都將能夠訪問所有類型的內(nèi)存。這將允許單獨的處理器共享相同的內(nèi)存池。它不僅對于數(shù)據(jù)中心至關重要,而且對于開發(fā)通常使用CPU,GPU和TPU的AI神經(jīng)網(wǎng)絡和深度機器學習系統(tǒng)等技術也至關重要。

CXL 事務層協(xié)議

憑借與 PCIe 5.0 相似的帶寬,CXL 使用三種動態(tài)多路復用的事務層協(xié)議:CXL.io、CXL.緩存和 CXL.內(nèi)存,以在 PCIe 上獲得優(yōu)勢。

CXL.io 協(xié)議幾乎與 PCIe 5.0 相同。它用于設備發(fā)現(xiàn)、配置、寄存器訪問、中斷、虛擬化和批量 DMA。

CXL.cache 是一種可選協(xié)議,用于定義主機和設備之間的交互。這允許連接的 CXL 設備使用請求和響應方法以極低的延遲高效緩存主機內(nèi)存。

CXL.memory 是一種可選協(xié)議,它使用加載和存儲命令為主機處理器提供對加速器連接的內(nèi)存的直接訪問。加速器連接的內(nèi)存被 CPU、GPU 或 TPU 視為額外的地址空間,從而提高效率并降低延遲。

CXL 對存儲的影響

CXL依賴于存儲,并將對其產(chǎn)生影響。它將允許存儲系統(tǒng)使用更大的內(nèi)存池進行緩存。該技術有利于使用內(nèi)存作為緩存的存儲應用程序或系統(tǒng)。這一點至關重要,因為雖然許多ISP定期限制帶寬,但臨時數(shù)據(jù)存儲正在成為數(shù)據(jù)中心性能的關鍵方面。

商用存儲系統(tǒng)中目前可用的最大 DRAM 緩存為 3 TB。盡管使用 MemVerge 或福爾穆盧斯黑色,但特定的軟件定義存儲可以使用英特爾傲騰 PMem 將該緩存擴展到 4.5 TB。但是,這對除最富有的組織之外的所有組織的緩存內(nèi)存施加了硬性限制。幸運的是,CXL 通過允許存儲軟件跨多個存儲介質(zhì)緩存數(shù)據(jù)來解決此問題。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    20339

    瀏覽量

    255351
  • 云計算
    +關注

    關注

    39

    文章

    8044

    瀏覽量

    144810
  • 數(shù)據(jù)中心

    關注

    18

    文章

    5780

    瀏覽量

    75214
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    內(nèi)存要取代GPU?HBM之父警告:英偉達GPU為核心的架構(gòu)要被顛覆

    主板和CPU成為了主角。 ? 而最近“HBM之父”金正浩教授也語出驚人,提出未來內(nèi)存將成為主角:“GPU和CPU將會被集成到內(nèi)存(HBM和HBF)里,淪為內(nèi)存中的一個組件”。 ? 倒反
    的頭像 發(fā)表于 04-03 09:54 ?7241次閱讀
    <b class='flag-5'>內(nèi)存</b>要取代<b class='flag-5'>GPU</b>?HBM之父警告:<b class='flag-5'>以</b>英偉達<b class='flag-5'>GPU</b>為核心的架構(gòu)要被顛覆

    深度解析AD9643:高速、高性能的雙14位ADC

    深度解析AD9643:高速、高性能的雙14位ADC 在如今的電子設計領域,高速、高性能的模擬-to-數(shù)字轉(zhuǎn)換器(ADC)發(fā)揮著舉足輕重的作
    的頭像 發(fā)表于 03-31 13:40 ?623次閱讀

    LVDS高速差分傳輸設計:全濾波與防護實戰(zhàn)方案

    、LVDS 核心設計要點 LVDS采用低壓差分驅(qū)動,具備低EMI、低功耗、高傳輸速率的特點,可輕松支持數(shù)百Mbps 至Gbps級帶寬,滿足1080P/4K視頻實時傳輸。 高速差分信號對共模噪聲
    發(fā)表于 03-24 14:59

    MAX17409:高性能GPU的電源控制利器

    MAX17409:高性能GPU的電源控制利器 在今日的高性能圖形處理器(GPU)應用領域,對于高效、穩(wěn)定且響應迅速的電源控制的需求日益增長。MAX17409作為一款1 - 相Quick
    的頭像 發(fā)表于 03-17 14:20 ?198次閱讀

    如何正確選用Finisar AOC/DAC提升光互連性能

    在現(xiàn)代數(shù)據(jù)中心、高性能計算(HPC)以及企業(yè)網(wǎng)絡中,高速互連
    的頭像 發(fā)表于 03-02 09:53 ?292次閱讀
    如何正確選用Finisar AOC/DAC提升光<b class='flag-5'>互連</b><b class='flag-5'>性能</b>

    內(nèi)存接口到PCIe/CXL、以太網(wǎng)及光互連,高速互連芯片市場分析

    黃晶晶 綜合整理 ? 高速互連芯片定義及分類高速互連芯片是支撐數(shù)據(jù)中心、服務器及計算實現(xiàn)
    的頭像 發(fā)表于 01-20 13:37 ?2012次閱讀
    從<b class='flag-5'>內(nèi)存</b>接口到PCIe/CXL、以太網(wǎng)及光<b class='flag-5'>互連</b>,<b class='flag-5'>高速</b><b class='flag-5'>互連</b>芯片市場分析

    SN65LVCP15:高速串行的理想選擇

    的SN65LVCP15,這是一款高性能的串行復用器,適用于光纖通道、千兆以太網(wǎng)和高清電視(HDTV)等高速接口應用。 文件下載: sn65lvcp15.pdf 特性亮點 多
    的頭像 發(fā)表于 12-25 14:30 ?412次閱讀

    Amphenol HD Express?:滿足PCIe? Gen 6需求的高性能互連系統(tǒng)

    Amphenol HD Express?:滿足PCIe? Gen 6需求的高性能互連系統(tǒng) 在當今高速發(fā)展的電子科技領域,對于高性能、高密度互連
    的頭像 發(fā)表于 12-11 14:10 ?550次閱讀

    為什么高速信號 = 芯片 + PCB + 極細同軸線束三者匹配?

    高速信號性能,不取決于單一環(huán)節(jié),而是“芯片 + PCB + 極細同軸線束”三者的整體匹配;芯片是信號的源,PCB 是高速通道,線束是關
    的頭像 發(fā)表于 11-03 18:48 ?1840次閱讀
    為什么<b class='flag-5'>高速</b>信號<b class='flag-5'>鏈</b><b class='flag-5'>路</b> = 芯片 + PCB + 極細同軸線束三者匹配?

    NVIDIA推出NVQLink高速互連架構(gòu)

    NVIDIA 推出 NVIDIA NVQLink,這是一種開放式系統(tǒng)架構(gòu),可將 GPU 計算的極致性能與量子處理器緊密結(jié)合,構(gòu)建加速的量子超級計算
    的頭像 發(fā)表于 11-03 14:53 ?910次閱讀

    TE品牌的高速可插拔I O互連產(chǎn)品性能如何?-赫聯(lián)電子

    ,從而實現(xiàn)長期成本降低,而無需完全重新設計便可提高性能。   TE的zSFP+互連產(chǎn)品符合SFF-8402的規(guī)定,已為光纖通道32G(28.05 Gbps線路速率)采用。整個產(chǎn)品系列
    發(fā)表于 10-16 11:22

    立訊技術高速裸線技術如何搶占高速互連賽道

    在AI算力爆發(fā)式增長的浪潮下,高速裸線正成為數(shù)據(jù)中心與服務器內(nèi)部傳輸?shù)拿}。當英偉達GB200超級芯片內(nèi)置5000根NVLink銅纜,銅代光實現(xiàn)GPU
    的頭像 發(fā)表于 08-07 10:29 ?1723次閱讀
    立訊技術<b class='flag-5'>高速</b>裸線技術如何搶占<b class='flag-5'>高速</b><b class='flag-5'>互連</b>賽道

    PCIe協(xié)議分析儀能測試哪些設備?

    PCIe協(xié)議分析儀能測試多種依賴PCIe總線進行高速數(shù)據(jù)傳輸?shù)脑O備,其測試范圍覆蓋計算、存儲、網(wǎng)絡及異構(gòu)計算等多個領域,具體設備類型及測試場景如下:一、核心計算設備
    發(fā)表于 07-25 14:09

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】+NVlink技術從應用到原理

    帶來了總雙向帶寬160GB/s的通訊速率,遠高于當時的PCIe接口(實際比現(xiàn)在的PCIe5.0也還要快)。首代的NVlink主要是增強了GPUGPU的通信性能GPU對系統(tǒng)
    發(fā)表于 06-18 19:31

    使用樹莓派構(gòu)建 Slurm 高性能計算集群:分步指南!

    在這篇文章中,我將分享我嘗試使用樹莓派構(gòu)建Slurm高性能計算集群的經(jīng)歷。一段時間前,我開始使用這個集群作為測試平臺,來創(chuàng)建一個更大的、支持GPU計算
    的頭像 發(fā)表于 06-17 16:27 ?1996次閱讀
    使用樹莓派構(gòu)建 Slurm <b class='flag-5'>高性能</b><b class='flag-5'>計算</b>集群:分步指南!
    全州县| 龙川县| 兴和县| 安多县| 宁安市| 巩义市| 苍南县| 宜阳县| 怀仁县| 西昌市| 安溪县| 平南县| 林州市| 灌云县| 北流市| 靖江市| 海宁市| 建宁县| 哈密市| 广州市| 喀什市| 舞钢市| 阜康市| 双牌县| 长海县| 延寿县| 黄龙县| 侯马市| 温泉县| 太谷县| 靖州| 双峰县| 西乌珠穆沁旗| 方城县| 雷波县| 四子王旗| 河北区| 博白县| 黄龙县| 明水县| 阿城市|