英特爾7大算力神器助力極致算力。

“請代替基金經(jīng)理寫一段年終總結”，“如何評價春節(jié)檔電影大混戰(zhàn)”，“請寫出一段爬取網(wǎng)頁內容的程序”……諸如此類問題，OpenAI開發(fā)的ChatGPT都可以給出一段“中肯”的回答。

2023年開年，全球AI領域最“出圈”的成果莫過于ChatGPT了。作為一個具備問答、文章撰寫等多重能力的對話式機器人，ChatGPT的強大“超能力”背后，是天量的訓練數(shù)據(jù)與龐大的模型。

ChatGPT的前一代基礎模型——GPT-3的參數(shù)就高達1750億，訓練數(shù)據(jù)高達45TB，訓練設備包括超過28.5萬個CPU和1萬個GPU，僅訓練成本就超過了1200萬美元。ChatGPT基于GPT3.5架構的模型參數(shù)在此基礎上至少提升了2個量級，對強算力的需求就更高。

事實上，不止是人工智能領域，數(shù)字經(jīng)濟發(fā)展潮流中的每一次技術和應用的飛躍，都離不開強勁算力的支持，作為該領域的頭部企業(yè)之一，英特爾仍在不斷挑戰(zhàn)更強算力。1月11日，英特爾正式發(fā)布第四代至強可擴展處理器和至強 CPU Max系列產品，通過內置面向AI、科學計算、安全、網(wǎng)絡、數(shù)據(jù)分析和存儲的加速器，在提升工作負載的性能和能效上更進一步。

01

破題新思路，四代至強新添七大算力神器

一想到算力提升，最容易想到的解決方案就是“堆核”，即通過增加核心頻率和核心數(shù)量來提升整體數(shù)據(jù)處理速度。

但想要面向云計算、物聯(lián)網(wǎng)、人工智能、5G等真實、多樣應用場景下的工作負載提升CPU性能，充分利用CPU資源并且節(jié)約成本，“堆核”顯然不是最優(yōu)解。

正如英特爾數(shù)據(jù)中心與人工智能集團副總裁兼中國區(qū)總經(jīng)理陳葆立所說，“我們更關注客戶如何使用我們的產品，并不是越多核就一定越好，今天的許多用戶在使用數(shù)據(jù)中心處理器時，也并非一味執(zhí)著于多核，而是具體工作具體分析?！?

基于在各個行業(yè)與場景實踐中積累的豐富經(jīng)驗，英特爾重塑破題思路，發(fā)布了全新的第四代英特爾至強，引入針對實際工作負載優(yōu)化加速的設計理念，采用系統(tǒng)級設計方法，在CPU中內置針對各種工作負載的專用加速器，與上一代相比，實現(xiàn)了通用計算平均性能提升53%，并且能夠將目標工作負載的平均每瓦性能提升2.9倍。而在優(yōu)化電源模式下，每個CPU節(jié)能高達70瓦，并對性能只產生極低的影響，將總體擁有成本降低52%到66%，做到帶來領先性能的同時實現(xiàn)可持續(xù)發(fā)展。2

全新的英特爾至強平臺提供了七大算力神器——

面向深度學習場景的英特爾高級矩陣擴展（英特爾AMX），能將人工智能實時推理和訓練性能提升至10倍；

面向網(wǎng)絡數(shù)據(jù)系統(tǒng)的英特爾動態(tài)負載均衡器（英特爾DLB），可將網(wǎng)絡工作負載的系統(tǒng)級處理性能時延降低96%；

增強數(shù)據(jù)移動效率的英特爾數(shù)據(jù)流加速器（英特爾DSA），幫助數(shù)據(jù)密集型工作負載數(shù)據(jù)移動和轉換性能提升至1.7倍；

面向內存數(shù)據(jù)庫和大數(shù)據(jù)分析工作負載的英特爾存內分析加速器（英特爾IAA），能顯著優(yōu)化數(shù)據(jù)分析工作負載內存占用和查詢吞吐量，性能可提升至3倍；

面向數(shù)據(jù)流壓縮及數(shù)據(jù)加解密的英特爾數(shù)據(jù)保護與壓縮加速技術（英特爾 QAT），使第四代英特爾至強可擴展處理器成為單一數(shù)據(jù)流壓縮并加密數(shù)據(jù)性能最高的CPU；

增強工作負載安全性的英特爾安全技術（英特爾Security）策略組合，能夠對工作負載進行保護，加速加密運算，實現(xiàn)預測性安全保護；

首款集成高帶寬內存（HBM）的英特爾至強CPU Max系列，能夠在無需變更代碼的情況下為科學計算工作負載加速。

值得一提的是，第四代英特爾至強不僅具備卓越的加速性能，亦體現(xiàn)了重大的制造進展。其能夠在一個封裝上集成多達4個采用Intel 7制程工藝制造的單元，這些區(qū)塊通過英特爾嵌入式多芯片互連橋接（EMIB）封裝技術連接。第四代英特爾至強可擴展處理器還具備新特性，包括通過DDR5增加了內存帶寬、通過PCIe5.0和Compute Express Link (CXL) 1.1互連增加了I/O帶寬。

有了算力的升級與加持，紛繁復雜的場景和應用將會展開更多可能。

02

AI將社會發(fā)展導向新階段

AI作畫、ChatGPT對話機器人……隨著深度殘差網(wǎng)絡（ResNet）、Transformer算法、Diffusion算法等技術進入應用階段，2022年以來，AI領域不斷迎來發(fā)展的“小高潮”，AI強大的能力成功吸引了大眾目光，也帶動了新一波數(shù)字技術的觀念普及。

相比GPU提升訓練效率的能力，擁有極佳性價比的CPU在AI應用的規(guī)?；渴鸷蛯嵺`上同樣發(fā)揮著重要作用?？梢哉f，AI走入工程化階段，面向大眾提供服務，迫切需要不斷提升CPU的性能，以實現(xiàn)高算力、強性能和低成本。

有數(shù)據(jù)顯示，預計到2025年，超過60%的中國企業(yè)將通過人工智能、機器學習、自然語言處理（Natural Language Processing，NLP）和模式識別等技術實施智能預測與決策，提升員工工作效率和企業(yè)生產力。而面向推薦系統(tǒng)、自然語言處理、圖像識別、媒體處理和交付，以及媒體分析等AI應用場景，用戶需要更精準化地分析和快速地推理。

這其中，作為AI領域的重要分支，自然語言處理（NLP）正獲得前所未有的市場關注與技術追蹤，將大幅緩解金融、醫(yī)療、法律等行業(yè)中人力密集型工作環(huán)節(jié)帶來的效率和成本壓力。

作為國內擁有強大互聯(lián)網(wǎng)基礎的領先AI公司，得益于近十年來在自有“飛槳”人工智能框架上的前瞻布局和大力投入，百度已在NLP領域構建起了完整的產品體系與技術組合。而隨著技術與產業(yè)結合的深入、商業(yè)化應用落地的加快，用戶對百度飛槳文心 · NLP大模型的重要組成部分——ERNIE 3.0提出了更多細分需求，如更高的處理效率和更廣泛的部署場景等。

為此，百度不僅借助其創(chuàng)新技術優(yōu)勢，推出了更適合落地應用的輕量版ERNIE-Tiny，同時與英特爾攜手，引入了全新第四代英特爾至強可擴展處理器，其內置的英特爾AMX在實際工作負載中，能同時支持BF16和INT8數(shù)據(jù)類型，其每個物理核在每個時鐘周期可實現(xiàn)2,048次INT8運算和1,024次BF16運算，這無疑大幅提升了AI工作負載的效率。ERNIE-Tiny在升級使用內置英特爾AMX的第四代至強可擴展處理器后，整體性能對比上一代提升高達2.66倍3，推理性能大大提升。

“全新第四代英特爾至強可擴展處理器及英特爾AMX技術的引入，使得輕量版ERNIE 3.0在通用CPU平臺上也能獲得令人滿意的推理效能，從而能幫助更多用戶在其既有IT設施中更為方便地部署ERNIE 3.0，從而進一步普及其應用范圍?！卑俣茸匀徽Z言處理部架構師孫宇即如此評價英特爾AMX的杰出表現(xiàn)。

除此之外，由AI賦能的計算機視覺也已經(jīng)成為企業(yè)獲取數(shù)據(jù)洞察、推動業(yè)務智能化轉型的重要途徑。視覺AI解決方案能夠利用增強型深度學習神經(jīng)網(wǎng)絡，以更精密的方式獲取數(shù)據(jù)，將分析能力提升到全新水平，從而幫助企業(yè)提升工作效率、降低成本、增加收入并提高客戶滿意度。隨著業(yè)務的發(fā)展與視覺數(shù)據(jù)的爆發(fā)式增長，企業(yè)希望能夠在加速計算視覺AI模型訓練和提高推理性能的同時，獲得更高的投資收益。

美團作為與人們日常生活關系密切的科技零售公司，在其自身發(fā)展過程中，高度重視以視覺AI技術創(chuàng)新，賦能餐飲、出行、旅游、購物、娛樂等多種業(yè)務，充分踐行“零售+科技”的戰(zhàn)略。

為了加速視覺AI推理，美團利用第四代英特爾至強可擴展處理器及其內置的英特爾AMX等高級硬件能力，將模型從FP32轉化為BF16等方式，并結合了英特爾PyTorch擴展（英特爾IPEX）加速PyTorch，更有效地提升了深度學習推理和訓練的計算性能，將主流視覺模型的推理性能提升了3.38-4.13倍左右。同時，結合動態(tài)擴縮容等頭部服務優(yōu)化策略，美團將線上資源效率整體提升3倍以上，節(jié)省70%的服務成本4，實現(xiàn)了資源的敏捷調度，支持了視覺AI服務的高效創(chuàng)新，并賦能了業(yè)務智能化升級。

03

在高性能的基礎上需要更快、更安全

除了復雜應用場景下對高算力、高性能和低成本的需求外，對于企業(yè)用戶而言，面向更多更豐富的場景，高可靠和高安全的數(shù)據(jù)處理和分析能力則是更為基礎和底層的需求。

隨著大數(shù)據(jù)時代數(shù)據(jù)量的指數(shù)級增長，在保障數(shù)據(jù)安全性的前提下，更高效地處理大量動態(tài)數(shù)據(jù)與靜態(tài)數(shù)據(jù)，如今面臨著巨大的挑戰(zhàn)。

將大數(shù)據(jù)分析的全流程拆解來看，預處理階段即需要面對多個技術難題。以加密和壓縮環(huán)節(jié)為例，作為批量數(shù)據(jù)預處理的必然流程，只有優(yōu)先完成數(shù)據(jù)處理之后才能進行分析。而這個過程需要消耗大量的CPU時鐘周期，從而大大限制了計算密集型工作負載的運行效率。

針對這個難題，第四代英特爾至強可擴展處理器“點對點”突破，內置了數(shù)據(jù)保護和壓縮加速技術（英特爾QAT），通過卸載加密、解密和壓縮釋放處理器內核，從而讓系統(tǒng)能夠支持更多客戶端運行或實現(xiàn)降低能耗的目的，可將內核用量減少高達95%；另外，QAT能夠幫助加速數(shù)據(jù)庫備份和聯(lián)機事務處理（OLTP）操作，實現(xiàn)了2倍的吞吐量提升（針對一級壓縮），從而助力提升網(wǎng)絡和存儲應用的整體性能。

解決了數(shù)據(jù)處理流程中的安全挑戰(zhàn)，面向實際的工作負載，數(shù)據(jù)在應用過程中的安全又該如何保障呢？英特爾軟件防護擴展（英特爾SGX）可以解決這個難題。英特爾SGX提供硬件級的安全“屏障”，能通過應用程序隔離技術，保護選定的代碼和數(shù)據(jù)免遭修改，只要將應用程序分隔到強化的安全區(qū)或受信任的執(zhí)行模塊，即可以啟用身份和記錄隱私、安全瀏覽和數(shù)字管理保護（DRM），或者任何需要安全存儲機密或者保護數(shù)據(jù)的高保障安全應用場景中，幫助企業(yè)在安全可信的基礎上更好地進行數(shù)據(jù)價值發(fā)掘。

由此可見，對于未來數(shù)字經(jīng)濟而言，算力等基礎設施的舞臺才是核心的角力場。正如全球著名投資機構a16z評價ChatGPT時所說，“基礎設施服務商可能才是最大贏家，獲得最多的財富?！?/p>

包括AI在內的新技術在取得突破后，要想走入“尋常百姓家”，實現(xiàn)大規(guī)模的部署和應用，算力的安全、高速、高可靠、高性能等能力缺一不可。甚至可以說，算力的增強真正驅動了數(shù)字經(jīng)濟的增長。

因此，不斷突破算力瓶頸，以創(chuàng)新引領應用實踐才是當代數(shù)字經(jīng)濟的“主旋律”。而毫無疑問的是，作為處理器領域的生態(tài)構建者，英特爾已經(jīng)做好了準備，以技術創(chuàng)新力和卓越的產品力不斷“乘風破浪”，助力滾滾數(shù)字化大潮。

審核編輯 ：李倩