本文轉(zhuǎn)自：半導(dǎo)體芯聞

AI 芯片領(lǐng)域發(fā)展迅速，芯片是每一種AI體驗(yàn)的基礎(chǔ)，理解軟件背后的硬件從未像現(xiàn)在這樣重要。

以下是 10 個(gè)值得了解的術(shù)語(yǔ)：

1. AI 加速器 (AI Accelerator)

一類專門為 AI 工作負(fù)載而非通用計(jì)算構(gòu)建的寬泛芯片類別。由于 AI 任務(wù)（如訓(xùn)練和推理）具有獨(dú)特的需求，專為特定用途構(gòu)建的加速器可以提供比通用芯片顯著更好的性能和效率。AWS Trainium 芯片就是一個(gè)例子，其從零開始設(shè)計(jì)，旨在為生成式 AI 工作負(fù)載提供高性能和更低成本。

2. 集群 (Cluster)

一組連接在一起并作為一個(gè)單一、強(qiáng)大系統(tǒng)運(yùn)行的芯片和服務(wù)器。訓(xùn)練一個(gè)前沿 AI 模型所需的計(jì)算能力遠(yuǎn)超任何單一芯片所能提供，因此成千上萬(wàn)顆芯片被鏈接在集群中，并以極高的速度進(jìn)行通信。亞馬遜的 Project Rainier 是全球最大的 AI 計(jì)算集群——這些集群的規(guī)模和效率是決定模型訓(xùn)練速度和成本效益的主要因素。

3. CPU (中央處理器)

計(jì)算機(jī)的通用“大腦”，旨在處理從運(yùn)行應(yīng)用程序到管理操作系統(tǒng)的廣泛任務(wù)。隨著 AI 系統(tǒng)變得更加復(fù)雜，特別是隨著智能體 AI（agentic AI）的興起，CPU 在協(xié)調(diào)整個(gè)系統(tǒng)的負(fù)載方面變得越來(lái)越關(guān)鍵。亞馬遜為其云計(jì)算設(shè)計(jì)了 Graviton 處理器，最新一代的性能比前代提高了多達(dá) 25%。

4. GPU (圖形處理器)

最初為渲染圖形設(shè)計(jì)的芯片，現(xiàn)在廣泛用于 AI，因?yàn)樗梢酝瑫r(shí)執(zhí)行多次計(jì)算——這種能力被稱為并行處理。GPU 成為訓(xùn)練大型 AI 模型的首選硬件，歸功于其能夠同時(shí)處理海量數(shù)據(jù)。但它們只是 AI 計(jì)算堆棧的一部分。隨著工作負(fù)載的多樣化，行業(yè)正轉(zhuǎn)向更廣泛的專用硬件組合。

5. 推理 (Inference)

經(jīng)過(guò)訓(xùn)練的 AI 模型應(yīng)用其所學(xué)知識(shí)來(lái)生成輸出的過(guò)程，例如回答問(wèn)題、翻譯句子或創(chuàng)建圖像。訓(xùn)練是 AI 學(xué)習(xí)的方式，而推理則是它將訓(xùn)練付諸實(shí)踐的方式。每當(dāng)你與聊天機(jī)器人互動(dòng)或收到個(gè)性化推薦時(shí)，后臺(tái)都在進(jìn)行推理。推理的要求與訓(xùn)練非常不同：速度和單次查詢成本至關(guān)重要，這也是專門為推理優(yōu)化的芯片越來(lái)越重要的原因。

6. 性價(jià)比 (Price performance)

衡量每一美元支出能獲得多少計(jì)算能力的指標(biāo)。在 AI 芯片領(lǐng)域，這是最重要的指標(biāo)之一。兩顆芯片可能提供相似的原始性能，但如果其中一顆的運(yùn)行成本顯著更低，它就具有更好的性價(jià)比。這是公司采用 Trainium 和 Graviton 等專用芯片的關(guān)鍵原因，它們旨在比通用替代方案提供更高的單位美元產(chǎn)出。

7. 專用芯片 (Purpose-built silicon)

從零開始為特定工作負(fù)載設(shè)計(jì)，而不是嘗試擅長(zhǎng)所有事情的芯片。這是 AI 基礎(chǔ)設(shè)施領(lǐng)域正在發(fā)生的最重要的轉(zhuǎn)變之一。公司不再僅僅依賴“一刀切”的硬件，而是越來(lái)越多地轉(zhuǎn)向在性能、效率和成本方面進(jìn)行優(yōu)化的專用芯片。亞馬遜為通用云計(jì)算設(shè)計(jì)了 Graviton，為 AI 訓(xùn)練和推理設(shè)計(jì)了 Trainium，其定制芯片業(yè)務(wù)最近超過(guò)了 200 億美元的年收入跑率。

8. 吞吐量 (Throughput)

一個(gè)系統(tǒng)可以同時(shí)處理多少個(gè) AI 請(qǐng)求或操作。高吞吐量是讓 AI 擴(kuò)展到數(shù)百萬(wàn)用戶的關(guān)鍵。一個(gè)流行的 AI 應(yīng)用程序可能每秒需要處理數(shù)千個(gè)請(qǐng)求。專用芯片旨在最大化吞吐量而不使成本激增，這在更多企業(yè)將 AI 集成到其產(chǎn)品和服務(wù)中時(shí)尤為重要。

9. 訓(xùn)練 (Training)

通過(guò)向 AI 模型輸入海量數(shù)據(jù)集來(lái)教導(dǎo)模型的過(guò)程，使其能夠?qū)W習(xí)模式、關(guān)系以及如何做出預(yù)測(cè)。訓(xùn)練是技術(shù)領(lǐng)域計(jì)算密集度最高的工作負(fù)載之一：構(gòu)建一個(gè)前沿 AI 模型可能需要成千上萬(wàn)顆芯片運(yùn)行數(shù)周或數(shù)月。這就是專用芯片發(fā)揮真正作用的地方。例如，Anthropic 目前使用超過(guò) 100 萬(wàn)顆 Trainium2 芯片來(lái)訓(xùn)練和服務(wù)其 Claude 模型。

10. 工作負(fù)載 (Workload)

要求芯片執(zhí)行的任何計(jì)算任務(wù)或一組任務(wù)的總稱。在 AI 中，不同的工作負(fù)載有非常不同的需求。訓(xùn)練模型、運(yùn)行推理以及協(xié)調(diào) AI 智能體，各自以不同的方式給硬件的不同部分帶來(lái)壓力。這就是為什么行業(yè)正從“一顆芯片搞定一切”轉(zhuǎn)向?qū)⒑线m的芯片與合適的工作負(fù)載相匹配。

參考鏈接

https://www.aboutamazon.com/news/aws/ai-chip-terms-explained