在芯片設(shè)計(jì)階段慎重考慮所使用的DRAM的類(lèi)型及其訪問(wèn)方式在實(shí)現(xiàn)性能優(yōu)化方面越來(lái)越重要。

現(xiàn)階段芯片制造商在努力解決芯片上或封裝中的問(wèn)題，正在更加關(guān)注DRAM，將附加內(nèi)存視為一個(gè)關(guān)鍵的設(shè)計(jì)元素，而這可能會(huì)影響系統(tǒng)性能、功率和成本。普遍的共識(shí)是，如果要達(dá)到每瓦特處理更多數(shù)據(jù)所需的更高的性能水平，就必須提高能效。在給定的功率預(yù)算內(nèi)，所使用的DRAM的類(lèi)型及其訪問(wèn)方式在實(shí)現(xiàn)性能目標(biāo)方面發(fā)揮著越來(lái)越重要的作用。

“如何降低功率是在保持信號(hào)的完整性和達(dá)到所需的性能水平同時(shí)提高能效的問(wèn)題。”Rambus的科學(xué)家說(shuō)。以前只用于一種類(lèi)型的內(nèi)存，但現(xiàn)在多通道已經(jīng)在市場(chǎng)上實(shí)現(xiàn)。目前市場(chǎng)主要的問(wèn)題是圍繞著什么概念被借用到其他類(lèi)型的內(nèi)存中，以及低功耗市場(chǎng)將如何開(kāi)始影響主內(nèi)存。低功耗工程團(tuán)隊(duì)一直專(zhuān)注于試圖節(jié)省性能開(kāi)銷(xiāo)，并保持在一定的功率范圍內(nèi)?！拌b于DRAM都基于相同的供電技術(shù)，所以問(wèn)題的關(guān)鍵是如何優(yōu)化周?chē)囊磺?，如何?yōu)化低功耗環(huán)境，以及如何優(yōu)化高性能環(huán)境?！?/p>

瑞薩半導(dǎo)體副總裁兼總經(jīng)理拉米·塞西對(duì)此表示同意?！叭藗兤毡槌姓J(rèn)DDR總線在支持多時(shí)隙配置方面的能力將隨著時(shí)間的推移而變得越來(lái)越困難。當(dāng)你以每秒6、7、8GB的傳輸速度運(yùn)行這種寬并行偽差分總線時(shí)，首先你將失去第二個(gè)時(shí)隙，在這些速度下的多插槽配置也無(wú)法支持。當(dāng)這種情況發(fā)生時(shí)，產(chǎn)品的記憶容量實(shí)際上減少了一半。DRAM擴(kuò)展和密度增加將彌補(bǔ)其中的一些不足，用戶(hù)可以繼續(xù)向內(nèi)存控制器添加越來(lái)越多的通道。但最終這將失去動(dòng)力，這種方法無(wú)法提供所需的增量容量。”

西門(mén)子EDA負(fù)責(zé)數(shù)字設(shè)計(jì)實(shí)施的技術(shù)產(chǎn)品管理總監(jiān)Stuart Clubb也指出了類(lèi)似的趨勢(shì)。幾年前，英偉達(dá)發(fā)表的一份能源成本比較報(bào)告顯示，通過(guò)同樣的計(jì)算工作，使用主存(特別是DRAM)與本地CPU寄存器的能源成本大約要高出200倍。過(guò)去的其他論文也詳細(xì)描述了1級(jí)緩存和主存之間的功率成本近20倍的差異?！?/p>

此外，隨著功率和能量成為更重要的產(chǎn)品指標(biāo)，使用特定于應(yīng)用程序的加速器來(lái)補(bǔ)充通用計(jì)算資源的情況正在增加。

Clubb說(shuō)：“無(wú)論是內(nèi)存處理、計(jì)算存儲(chǔ)、SoC或PCI服務(wù)器端基于總線的加速器，還是在線預(yù)處理上，對(duì)降低主內(nèi)存相關(guān)能源成本的高效硬件的需求都在增長(zhǎng)。客戶(hù)需要針對(duì)特定任務(wù)構(gòu)建專(zhuān)門(mén)的加速器，以實(shí)現(xiàn)低能耗。雖然傳統(tǒng)的RTL功率估計(jì)和優(yōu)化工具可以幫助進(jìn)行一般的RTL設(shè)計(jì)工作，但在這個(gè)加速器空間中，高級(jí)合成的使用有所上升。具有本地化低功耗內(nèi)存解決方案的定制加速器的優(yōu)點(diǎn)是，在不使用時(shí)，客戶(hù)可以完全關(guān)閉它們，這是CPU/GPU/NPU類(lèi)型的解決方案無(wú)法做到的。無(wú)論如何嘗試優(yōu)化主內(nèi)存架構(gòu)，數(shù)據(jù)移動(dòng)的能源成本可能都是客戶(hù)真正想要盡可能避免的?！边@是Compute Express Link（CPU到內(nèi)存互連規(guī)范）的主要驅(qū)動(dòng)程序之一。“CXL基本上允許串行連接，”瑞薩的Sethi說(shuō)?！皹I(yè)界正在減少所需的管腳數(shù)量，可以將基于CXL的模塊放在離CPU更遠(yuǎn)的地方，并且具有比直接與DDR連接更好的擴(kuò)展性。這些模塊看起來(lái)更像存儲(chǔ)設(shè)備、SSD或PCIe插件，因此可以獲得更高的密度。然后，CXL還為緩存連接等提供了許多協(xié)議掛鉤，它允許DRAM看起來(lái)更像直接連接的DRAM，或者至少像非均勻內(nèi)存訪問(wèn)（NUMA）方式的DRAM訪問(wèn)?！?/p>

反過(guò)來(lái)，這需要更多地考慮如何構(gòu)建內(nèi)存，以及使用哪種類(lèi)型的內(nèi)存。馬克指出：“當(dāng)人們?cè)趦?nèi)存之間進(jìn)行選擇時(shí)，例如DDR和LPDDR，實(shí)際上，有些東西在很長(zhǎng)一段時(shí)間內(nèi)都會(huì)成為DDR。如果你要構(gòu)建一個(gè)大型服務(wù)器，你可能會(huì)用DDR構(gòu)建內(nèi)存。如果你要設(shè)計(jì)一個(gè)手機(jī)，你可能會(huì)用LPDDR構(gòu)建內(nèi)存?！?a href="http://m.sdkjxy.cn/tags/Cadence/" target="_blank">Cadence產(chǎn)品營(yíng)銷(xiāo)、DDR、HBM、閃存/存儲(chǔ)和MIPI IP的集團(tuán)總監(jiān)Greenberg說(shuō)到?！叭欢?，差異并不那么明顯。在過(guò)去五年里，它變得越來(lái)越模糊，例如，LPDDR被用于傳統(tǒng)上可能完全屬于DDR內(nèi)存的地方。”

“DDR內(nèi)存的優(yōu)點(diǎn)之一是可以添加容量，因此，如果你想添加更多的存儲(chǔ)，在大多數(shù)情況下，DDR是實(shí)現(xiàn)這一點(diǎn)的方法。LPDDR內(nèi)存提供的是一定范圍的內(nèi)存密度。我們看到LPDDR內(nèi)存開(kāi)始通過(guò)各種機(jī)器學(xué)習(xí)/人工智能加速器進(jìn)入服務(wù)器領(lǐng)域?！?/p>

每種內(nèi)存類(lèi)型都有許多屬性，從接口上可以放置多少容量到添加容量的容易程度以及支持多少帶寬。還有電力和企業(yè)可靠性標(biāo)準(zhǔn)需要考慮。Greenberg指出，在某些情況下，LPDDR比DDR內(nèi)存更好地滿(mǎn)足某些類(lèi)型系統(tǒng)的要求，即使它是傳統(tǒng)的DDR類(lèi)型的應(yīng)用程序。

Keysight Technologies內(nèi)存解決方案項(xiàng)目經(jīng)理蘭迪·懷特認(rèn)為，或多或少有兩種選擇——DDR或LPDDR，HBM和GDDR被用于更專(zhuān)業(yè)的設(shè)計(jì)中。“除非你專(zhuān)注于一個(gè)小眾應(yīng)用程序，否則真正的選擇可以歸結(jié)為兩種。DDR可能是數(shù)據(jù)中心和臺(tái)式機(jī)之間內(nèi)存容量的60%到70%。LPDDR是30%或更多，這一數(shù)字正在增長(zhǎng)，因?yàn)樗櫫藦氖謾C(jī)引入其他移動(dòng)設(shè)備的新產(chǎn)品的數(shù)量。同時(shí)，LPDDR往往比主流DDR領(lǐng)先一個(gè)百分點(diǎn)。多年來(lái)都是這樣，為什么LPDDR總是突破極限，也總是提前發(fā)布規(guī)格？這是因?yàn)槭謾C(jī)是目標(biāo)市場(chǎng)，而這也有大量的商機(jī)。

懷特說(shuō)，這一決定取決于兩件事——容量和應(yīng)用程序?！澳阈枰^(guò)64GB的內(nèi)存嗎？一部手機(jī)或一個(gè)移動(dòng)應(yīng)用程序需要16GB到32GB的系統(tǒng)內(nèi)存。這與所有視頻和文件的存儲(chǔ)不同。你為此付出了很多錢(qián)，買(mǎi)手機(jī)的時(shí)候手機(jī)廠商還會(huì)讓你選，但系統(tǒng)內(nèi)存是固定的，但你很少注意。對(duì)于手機(jī)來(lái)說(shuō)，你感覺(jué)真的不需要那個(gè)內(nèi)存?！币慌_(tái)運(yùn)行數(shù)千臺(tái)虛擬機(jī)、進(jìn)行金融交易、工程、數(shù)據(jù)庫(kù)查詢(xún)或Netflix流媒體的服務(wù)器需要TB級(jí)或更大的內(nèi)存。這是第一選擇標(biāo)準(zhǔn)。你又想要多少呢？”

第二個(gè)考慮因素是它的發(fā)展方向。懷特說(shuō)：“你想要的是什么？服務(wù)器需要大量?jī)?nèi)存，所以它們有許多DIMM插槽。但是你要如何將64GB、多個(gè)內(nèi)存芯片放入一部手機(jī)？對(duì)于手機(jī)、顯示器、電池和處理器來(lái)說(shuō)，空間的限制是不同的?！?/p>

另一個(gè)考慮因素涉及移動(dòng)設(shè)計(jì)的演變?！澳阈枰嗟挠?jì)算能力，需要更多的內(nèi)存，但空間正在縮小，你如何應(yīng)對(duì)？這是一個(gè)非常吸引人的趨勢(shì)。處理器和內(nèi)存本身之間的集成度要高得多。如果看看5年或10年前的一款舊手機(jī)，處理器位于主板的一部分，然后信號(hào)被發(fā)送到可能是一英寸或兩英寸的主板 ，然后到內(nèi)存組件，然后信號(hào)來(lái)回傳遞?，F(xiàn)在我們看到了芯片堆疊對(duì)封裝產(chǎn)生的趨勢(shì)?，F(xiàn)在你可以疊加到16個(gè)，這就是為什么你得到32GB或更多的空間，因?yàn)檫@些內(nèi)存芯片不超過(guò)2GB或4GB。集成度越來(lái)越高，空間也越來(lái)越大，速度也越來(lái)越快，如果不在電路板上傳輸那么遠(yuǎn)的話，無(wú)法獲得更好的信號(hào)完整性。

同時(shí)，這并不意味著系統(tǒng)架構(gòu)師更容易進(jìn)行權(quán)衡。事實(shí)上，工程團(tuán)隊(duì)在DDR、LPDDR、GDDR6甚至HBM之間多次改變主意并不罕見(jiàn)，Cadence的Greenberg也提醒到。

他說(shuō)：“人們會(huì)在這些決定之間來(lái)回嘗試，權(quán)衡所有選擇，看看結(jié)果如何，有時(shí)在評(píng)估一段時(shí)間后會(huì)改變類(lèi)型。他們通常會(huì)做系統(tǒng)級(jí)建模，他們會(huì)有一個(gè)視圖和神經(jīng)網(wǎng)絡(luò)的模型，以及內(nèi)存接口和內(nèi)存本身的模型。工程師會(huì)在它上面運(yùn)行流量，看看它看起來(lái)如何，并獲得性能評(píng)估。然后他們會(huì)看看每個(gè)要消耗多少成本。但是，使用HBM內(nèi)存也有很多相關(guān)成本，因此工程團(tuán)隊(duì)可以從HBM開(kāi)始，運(yùn)行模擬，當(dāng)所有模擬看起來(lái)都很好時(shí)，他們將確認(rèn)需要為連接HBM的芯片支付多少費(fèi)用。然后他們將開(kāi)始研究其他技術(shù)。HBM確實(shí)以?xún)r(jià)格提供了出色的性能。但是你想不想付出這個(gè)代價(jià)？有些應(yīng)用程序需要HBM，而這些設(shè)備最終將達(dá)到一個(gè)價(jià)格點(diǎn)，在這個(gè)價(jià)格點(diǎn)上，它們可以證明內(nèi)存使用是合理的。但還有很多其他設(shè)備不需要那么多性能，在某些情況下，它們可以歸結(jié)為GDDR6、LPDDR5和DDR5?！?/p>

圖1：GDDR6 16G數(shù)據(jù)眼與通道效應(yīng)的模擬。

此外，當(dāng)重點(diǎn)放在低功耗上時(shí)，假設(shè)LPDDR是無(wú)與倫比的是不對(duì)的?！罢嬲牡凸膬?nèi)存是HBM，”Synopsys產(chǎn)品營(yíng)銷(xiāo)高級(jí)經(jīng)理格雷厄姆·艾倫說(shuō)。HBM是最終的點(diǎn)對(duì)點(diǎn)，因?yàn)樗谕粋€(gè)封裝中，在某種形式的插入器上。在SoC上的物理接口和DRAM上的物理接口之間有一條很短的路徑，它不會(huì)消耗任何終端電源。如果你看看能耗，你會(huì)發(fā)現(xiàn)HBM的功率效率是所有DRAM中最好的。因此，HBM確實(shí)是最終的低功耗DRAM。

另一種減少功率的方法是將DRAM的核心電源與I/O分開(kāi)，這是內(nèi)存在歷史上所沒(méi)有利用的。比如LPDDR4和LPDDR4x之間的主要區(qū)別是從DRAM獲取電源并將其切斷，也就是一個(gè)電源用于輸入/輸出，一個(gè)電源用于DRAM?！?/p>

“對(duì)于主機(jī)來(lái)說(shuō)，不幸的是，如果是為L(zhǎng)PDDR4設(shè)計(jì)的，那么需要把LPDDR4信號(hào)輸出到DRAM。如果是LPDDR4x DRAM，你會(huì)說(shuō)，‘這些信號(hào)對(duì)我來(lái)說(shuō)有點(diǎn)太強(qiáng)，電壓太高。我不能保證我的長(zhǎng)期可靠性不受你給我的影響。因此，從技術(shù)上講，您違反了DRAM的超調(diào)/欠調(diào)規(guī)格。”你必須經(jīng)歷一個(gè)轉(zhuǎn)變的過(guò)程。我們的客戶(hù)正在尋求有關(guān)DDR4到LPDDR4x的幫助。歸根結(jié)底，這沒(méi)省多少電。對(duì)于整個(gè)子系統(tǒng)的節(jié)能來(lái)說(shuō)，可能在15%的范圍內(nèi)。這是因?yàn)镈RAM的核心需要大量電力，這不會(huì)改變電力供應(yīng)鏈，所以也不會(huì)改變它們的工作方式。只需更改輸入/輸出的電壓，以通過(guò)總線傳輸數(shù)據(jù)。在SoC上的物理層中不光可以這樣做，在DRAM上的物理層中也能這樣做?，F(xiàn)在有趣的是，當(dāng)我們從HBM2和HBM2e轉(zhuǎn)換到HBM3時(shí)，我們已經(jīng)從HBM2e的普通1.2伏電壓轉(zhuǎn)換為HBM3上I/O的0.4伏工作電源，因此我們將其減少了三分之一。這節(jié)省了大量電力，尤其是當(dāng)有1024臺(tái)這樣的機(jī)器一起運(yùn)行時(shí)。”

就可靠性問(wèn)題 Rambus表示，與上述所有考慮相比，人們?cè)絹?lái)越擔(dān)心系統(tǒng)的可靠性。“可靠性正成為一個(gè)越來(lái)越突出的一流設(shè)計(jì)參數(shù)。在較小的工藝幾何圖形中，事情會(huì)變得更加復(fù)雜，事情會(huì)產(chǎn)生干擾，設(shè)備的可靠性變得困難。我們看到刷新時(shí)間/刷新間隔在下降，因?yàn)?a href="http://m.sdkjxy.cn/tags/電容/" target="_blank">電容式電池越來(lái)越小。這些都反映了可靠性變得越來(lái)越重要。問(wèn)題是，隨著完整性變得更具挑戰(zhàn)性，這些DRAM的架構(gòu)如何變化？是更多的ECC還是類(lèi)似的東西？”

那么，接下來(lái)會(huì)發(fā)生什么呢？這個(gè)行業(yè)將如何向前發(fā)展呢？吳宇說(shuō)：“我們傾向于看到在組件級(jí)別上出現(xiàn)的問(wèn)題真正具有挑戰(zhàn)性，要么是因?yàn)榧夹g(shù)上很困難，要么是因?yàn)榉浅０嘿F?！薄拔覀儍A向于看到這些問(wèn)題被拉到系統(tǒng)層面，而人們則試圖在系統(tǒng)層面找到解決這些問(wèn)題的方法?！?/p>

審核編輯 ：李倩