電子發(fā)燒友網報道（文/吳子鵬）日前，彭博社發(fā)文稱，為減少對英偉達芯片的依賴，亞馬遜已經秘密啟動了“登月”（moonshot）的計劃，目前正在其位于得克薩斯州奧斯汀的工程實驗室加緊研發(fā)一款新的AI芯片：Trainium2，目標是在亞馬遜自己的數據中心里部署10萬顆Trainium2，以提高數據處理效率并降低AI芯片采購成本。

近幾年，亞馬遜一直都在致力于自研芯片以降低數據中心成本，根據云成本管理和優(yōu)化平臺Vantage此前的一項調查數據，在Amazon EC2 M7系列通用實例的成本支出方面，采用Amazon Graviton的M7g系列已經超過三分之一（34.5%）。

亞馬遜自研芯片第一次亮相始于2016年，在當年的re:Invent大會上，亞馬遜云傳奇工程師James Hamilton展示了該公司第一顆自研芯片，這便是第一代Graviton芯片。和英特爾、AMD的芯片不同，第一代Graviton芯片便是基于Arm架構的Neoverse內核打造，可以支持2x25G以太網的數據包處理。隨后，亞馬遜在2019年推出了Graviton2、2021年推出了Graviton3、2023年推出了Graviton4。

作為最新版本的Graviton芯片，Graviton4采用了最先進的Arm架構 Neoverse V2 核心，具有更高的計算核心數量和更快的內存帶寬。7月15日，亞馬遜發(fā)布了基于自研芯片Graviton4的Amazon EC2 R8g實例。根據phoronix測試的結果，和上一代芯片Graviton3相比，Graviton4性能提升達30%以上，內核數增加50%，內存帶寬增加75%。

同時，根據測試結果，Graviton4處理器的性能略優(yōu)于英特爾至強處理器約5%，但AMD的EPYC處理器在整體性能上仍領先約25%。有評測報告認為，Graviton4搭載的Neoverse-V2內核與英特爾Sapphire Rapids內核在性能上旗鼓相當，在某些工作負載下甚至優(yōu)于AMD第四代EPYC。

Graviton4處理器發(fā)布于2023年11月28日，與其同時發(fā)布的還有升級款處理器Trainium2。AWS首席執(zhí)行官Adam Selipsky在re:Invent主題演講中透露，亞馬遜已經購買了數百萬個英偉達的A100和H100產品，在此方面投入了巨大的成本。而業(yè)界人士預測，Trainium2是一顆有望正面和英偉達H100芯片競爭的AI芯片。

Trainium2是多年磨一劍的產品，據悉在亞馬遜2015年收購Annapurna Labs之后，這個項目就在秘密研發(fā)。根據亞馬遜方面的數據，Trainium2相較于上一代產品，訓練速度提升多達4倍，能效提升多達2倍，內存容量則達此前3倍，能在EC2 UltraClusters中擴展至多達10萬個芯片，可以在極短的時間內訓練基礎模型和大語言模型。目前，該芯片已經在接受包括Anthropic、Databricks、Stockmark三家AI創(chuàng)企以及德國電信、日本理光在內的多個客戶的測試。

同時，亞馬遜方面表示，Trainium2芯片已在數據中心部署，預計將在俄亥俄州等多個核心數據中心推廣，目標是形成多達100000個芯片的集群。而這正是亞馬遜秘密計劃——“登月”計劃的一部分。按照規(guī)劃，Trainium2芯片先期主要承擔亞馬遜內部的AI訓練項目，并在初創(chuàng)企業(yè)客戶方面得到測試，隨著項目成熟將陸續(xù)有大客戶導入到基于Trainium2芯片的算力平臺上，一旦大客戶有項目使用，亞馬遜Trainium2芯片的任務便被視為取得成功。

不過，業(yè)內人士認為，亞馬遜Trainium2芯片也面臨諸多方面的挑戰(zhàn)，其中最顯著的兩大挑戰(zhàn)是自研芯片本身和軟件生態(tài)。在自研芯片方面，由于英偉達在通用計算GPU領域已經積累了深厚的研發(fā)經驗，單芯片的優(yōu)化已經接近了極限，要想實現超越，尤其是在核心指標PPA方面實現超越，可能需要更加前沿的工藝平臺進行芯片實現，或者在芯片設計過程中導入工程設計的“know how”，但無論怎樣的技術路徑，背后面臨的挑戰(zhàn)都是巨大的，且可能會由于先期用量低而導致高昂的成本，再加上本就客觀存在的研發(fā)成本，這對公司內部推進自研芯片的決心會有挑戰(zhàn)。

在軟件方面的挑戰(zhàn)就更大了，目前全球主要的GPGPU基本是依存于英偉達的CUDA生態(tài)生存，如果不兼容基本很難部署落地，這就導致英偉達在軟硬件結合方面具有巨大的先發(fā)優(yōu)勢。重新部署軟件生態(tài)當然也是有效的途徑，一旦成功會獲得巨大的商業(yè)回報。但分析人士認為，目前亞馬遜提供的Neural SDK軟件工具尚處于初期階段，無法與英偉達的解決方案相匹敵。

結語

就像人類登月一樣，亞馬遜Trainium2芯片的野心是巨大的，一旦成功帶來的商業(yè)回報也是非?？捎^的。但登月本就兇險萬分，Trainium2芯片離成功替代英偉達H100還有很長很長的路要走。