電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）近年來(lái)，在全球數(shù)字化、智能化的浪潮下，智能手機(jī)、自動(dòng)駕駛、數(shù)據(jù)中心、圖像識(shí)別等應(yīng)用推動(dòng) AI服務(wù)器市場(chǎng)迅速成長(zhǎng)。根據(jù) IDC 數(shù)據(jù)，2021 年全球 AI 服務(wù)器市場(chǎng)規(guī)模已達(dá)到 145 億美元，并預(yù)計(jì) 2025 年將超過(guò) 260 億美元。

近段時(shí)間ChatGPT概念的火熱，更是對(duì)算力基礎(chǔ)設(shè)施的需求起到了帶動(dòng)作用。寧暢副總裁兼CTO趙雷此前在接受媒體采訪的時(shí)候表示，ChatGP的訓(xùn)練和部署，都需要大量智能計(jì)算數(shù)據(jù)存儲(chǔ)以及傳輸資源，計(jì)算機(jī)基礎(chǔ)設(shè)施、算力等上游技術(shù)將因此受益。

ChatGPT有著多達(dá)1750億個(gè)模型參數(shù)。在算力方面，GPT-3.5在訓(xùn)練階段消耗的總算力約3640PF-days。在應(yīng)用時(shí)，ChatGPT仍然需要大算力的服務(wù)器支持。ChatGPT的持續(xù)爆火也為AIGC帶來(lái)全新增量，行業(yè)對(duì)AI模型訓(xùn)練所需要的算力支持提出了更高要求。

寧暢是一家集研發(fā)、生產(chǎn)、部署、運(yùn)維一體的服務(wù)器廠商，及IT系統(tǒng)解決方案提供商。該公司早早就開(kāi)始著重發(fā)力于人工智能服務(wù)器和液冷服務(wù)器。趙雷表示，公司目前在用的、在研的人工智能和液冷服務(wù)器，包括明年還將推出的浸沒(méi)液冷服務(wù)器，剛好跟上算力高速增長(zhǎng)的市場(chǎng)需求。公司隨時(shí)準(zhǔn)備著為客戶提供合適的高算力產(chǎn)品和解決方案。

在人工智能服務(wù)器方面，寧暢已經(jīng)推出多款產(chǎn)品，包括X620 G50、X660 G45、X640 G40、X620 G40。X620 G50適用于機(jī)器學(xué)習(xí)、AI推理、云計(jì)算、高性能計(jì)算等場(chǎng)景；660 G45是專門(mén)為深度學(xué)習(xí)訓(xùn)練開(kāi)發(fā)的高性能計(jì)算平臺(tái)；X640 G40是兼?zhèn)溆?xùn)練與推理功能的全能型GPU服務(wù)器；X620 G40性能提升的同時(shí)支持PCIe 4.0高速總線技術(shù)，完美支持NVIDIA各類最新型GPU加速服務(wù)，是最為理想的AI推理平臺(tái)。

在液冷服務(wù)器方面，寧暢推出了三款冷板式液冷服務(wù)器，包括產(chǎn)品B5000 G4 LP、X660 G45 LP、R620 G40 LP，范圍覆蓋了高密度、通用機(jī)架以及人工智能服務(wù)器產(chǎn)品，可滿足科學(xué)計(jì)算、AI訓(xùn)練、云計(jì)算等眾多IT應(yīng)用場(chǎng)景，可滿足用戶不同需求。

作為服務(wù)器廠商需要給下游互聯(lián)網(wǎng)客戶提供怎樣的產(chǎn)品和服務(wù)呢？對(duì)于服務(wù)器廠商來(lái)說(shuō)，不只是要提供服務(wù)器硬件或者基礎(chǔ)設(shè)施，還要有對(duì)應(yīng)的服務(wù)能力。

從服務(wù)層面來(lái)看，在用戶現(xiàn)場(chǎng)會(huì)關(guān)注什么呢，比如說(shuō)核心業(yè)務(wù)，會(huì)關(guān)注業(yè)務(wù)的在線率，不管服務(wù)器壞不壞，整個(gè)業(yè)務(wù)的運(yùn)行是要有彈性的、靈活的，不會(huì)給客戶造成影響的。就以百度、微信這些業(yè)務(wù)為例，大家?guī)缀醪粫?huì)看到微信不能用了，或者百度搜索不反饋結(jié)果了。

趙雷表示，對(duì)于服務(wù)器廠商來(lái)說(shuō)，要做的是在服務(wù)層面能夠快速響應(yīng)，不管是采用現(xiàn)場(chǎng)備件模式，機(jī)房備機(jī)模式，還是駐場(chǎng)人員巡檢的模式，都需要做到24小時(shí)的快速響應(yīng)。這是純粹的服務(wù)方面，也就是說(shuō)，在互聯(lián)網(wǎng)搭建業(yè)務(wù)連續(xù)性良好的基礎(chǔ)上，服務(wù)器廠商能夠?qū)⒐收虾涂焖?a target="_blank">維修的能力做到極致，有效地支撐客戶的前端應(yīng)用。

從產(chǎn)品層面來(lái)看，對(duì)于每個(gè)硬件子系統(tǒng)在設(shè)計(jì)研發(fā)過(guò)程中，都需要從易維修和低故障角度去思考如何將產(chǎn)品做得更好。寧暢在這方面做了很多工作：首先，現(xiàn)在冷卻方式是影響故障率比較重要的因素，因?yàn)闇囟忍吖收下示蜁?huì)高，寧暢的精密風(fēng)冷和液冷的方式，能夠有效地降低芯片和對(duì)應(yīng)組件的故障率。

其次，其精密六維減震模式，能夠有效提升硬盤(pán)的性能，降低故障率；接著是，采用DAE的散熱器，從散熱的維度有效降低光模塊的故障率。同時(shí)CPU、GPU的液冷可以有效降低CPU、GPU的故障率；通過(guò)內(nèi)存的漏斗，內(nèi)存的故障篩選或者在線隔離技術(shù)，有效地降低內(nèi)存的故障率；另外還在板卡走線、機(jī)箱結(jié)構(gòu)方面進(jìn)行了優(yōu)化設(shè)計(jì)。

此外還有整機(jī)BMC易管理特性，趙雷認(rèn)為，任何東西不可能不壞，有毛病是不可避免的，壞了以后，如何快速通知客戶或者維護(hù)人員維修時(shí)關(guān)鍵。BMC有一個(gè)完善的通知機(jī)制，郵件自動(dòng)通知、SMP遠(yuǎn)程告警、IPMI告警等。寧暢按照互聯(lián)網(wǎng)客戶的需求定制，將其融入整個(gè)機(jī)房的運(yùn)維系統(tǒng)，出現(xiàn)故障以后可以第一時(shí)間通知去維修。

雖然目前國(guó)內(nèi)有不少優(yōu)秀的服務(wù)器、云廠商等，不過(guò)整體來(lái)看，國(guó)內(nèi)的算力仍然存在瓶頸，比如，總體算力不夠，算力的分布不平均。部分客戶算力過(guò)剩，部分客戶算力不足。或者A時(shí)間算力過(guò)剩，B時(shí)間算力不足，這是算力協(xié)調(diào)的問(wèn)題。

短期來(lái)看這個(gè)問(wèn)題要靠云技術(shù)解決，長(zhǎng)期來(lái)看是要提供過(guò)剩的算力。也就是說(shuō)，需要云技術(shù)去平衡協(xié)調(diào)算力不均勻的問(wèn)題，還需要提供算力、算力效率等。

再比如算力成本高的問(wèn)題，雖然目前每單位算力單價(jià)下降了，但是過(guò)去幾年服務(wù)器的平均售價(jià)一直上漲。趙雷認(rèn)為，可能算力類型單一，不太能夠有效地支撐高速增長(zhǎng)的模式，可能要有各種各樣不同類型的算力。比如ChatGPT，是不是可以做針對(duì)GPT模型專門(mén)的ASIC。算力的應(yīng)用類型越窄，它的效率就會(huì)越高，越通用，效率就越低。

整體而言，過(guò)去幾年在全球數(shù)字化、智能化浪潮下，市場(chǎng)對(duì)算力的需求不斷增加。ChatGP的出現(xiàn)更是讓行業(yè)對(duì)算力提出了新的要求。國(guó)內(nèi)服務(wù)器廠商在對(duì)人工智能行業(yè)提供算力支持方面已經(jīng)有所準(zhǔn)備。不過(guò)從目前的情況來(lái)看，國(guó)內(nèi)在算力方面仍然存在一些瓶頸，比如算力分布不均勻，成本高等問(wèn)題。后續(xù)還需業(yè)界共同去探討解決。