電子發(fā)燒友網(wǎng)報道（文/李彎彎）在2026年4月22日舉行的谷歌云Next大會上，谷歌正式發(fā)布了第八代張量處理單元（TPU）。此次發(fā)布的產(chǎn)品包含兩款獨立的芯片：TPU 8t和TPU 8i。這是谷歌首次將訓練與推理任務拆分至獨立芯片，標志著其AI硬件路線的重大轉(zhuǎn)向。

谷歌高級副總裁兼AI與基礎(chǔ)設施首席技術(shù)專家Amin Vahdat表示，隨著AI智能體（AI Agents）的興起，訓練與服務場景對硬件的需求已經(jīng)出現(xiàn)明顯分化。為了最大化效率，需要分別為這兩類場景打造專用芯片。

這一變化反映了當前AI基礎(chǔ)設施建設的核心趨勢：從單純的模型參數(shù)規(guī)模競爭，轉(zhuǎn)向了對算力成本、能效比以及推理延遲的綜合考量。

TPU 8t與8i的技術(shù)亮點

谷歌此次推出的TPU 8t與TPU 8i兩款芯片，在設計目標、集群規(guī)模、內(nèi)存配置及互聯(lián)架構(gòu)上有明顯差異。TPU 8t聚焦于大規(guī)模模型訓練，而TPU 8i則致力于實現(xiàn)高并發(fā)、低延遲的推理任務。

TPU 8t的設計核心在于構(gòu)建一個無阻塞的超大規(guī)模計算集群，以應對當前日益復雜的萬億參數(shù)模型訓練挑戰(zhàn)。在集群擴展能力方面，單個超級計算單元（Supercomputer Pod）可容納多達9600枚芯片，而通過JAX與Pathways框架，分布式訓練規(guī)模更可擴展至單一集群超過100萬枚TPU芯片。這種前所未有的規(guī)模，使得最復雜的模型能夠調(diào)用一個統(tǒng)一的超大規(guī)模內(nèi)存池進行計算，從而大幅減少了跨集群通信的開銷，提升了訓練效率。

為了解決大規(guī)模集群中的通信瓶頸，TPU 8t采用了全新的Virgo網(wǎng)絡架構(gòu)。在互聯(lián)架構(gòu)與帶寬方面，芯片間互聯(lián)（ICI）帶寬是上一代的兩倍，而數(shù)據(jù)中心骨干網(wǎng)帶寬則較上一代提升了最高4倍。這種兩層無阻塞網(wǎng)絡設計，確保了即使在數(shù)萬枚芯片協(xié)同工作時，數(shù)據(jù)傳輸也不會成為計算的限制因素，為超大規(guī)模訓練提供了堅實的網(wǎng)絡支撐。

在計算性能與可靠性方面，TPU 8t計算性能較上一代Ironwood提升了近3倍。此外，該芯片還引入了一套完善的可靠性、可用性與可維護性（RAS）設計，包括覆蓋數(shù)萬枚芯片的實時遙測監(jiān)控，以及在不中斷任務運行的情況下自動檢測并繞過故障鏈路的機制。光路電路交換（OCS）技術(shù)的運用，更是使得硬件拓撲結(jié)構(gòu)能夠在無需人工干預的前提下，圍繞故障點自動重構(gòu)，進一步提升了系統(tǒng)的穩(wěn)定性和可靠性。

與TPU 8t追求吞吐量不同，TPU 8i的設計核心在于解決推理過程中的“內(nèi)存墻”問題和降低響應延遲，特別是針對混合專家模型（MoE）和復雜的智能體工作流。為了實現(xiàn)這一目標，TPU 8i在片上SRAM方面進行了大幅擴容。

推理任務通常涉及頻繁的內(nèi)存讀寫，尤其是在處理長上下文窗口時。TPU 8i配備了384MB的片上靜態(tài)隨機存取存儲器（SRAM），容量是上一代的三倍。這意味著模型的活躍工作集（如KV Cache）可以完全保留在芯片內(nèi)部運行，從而大幅減少了處理器等待數(shù)據(jù)從外部高帶寬內(nèi)存（HBM）傳輸?shù)臅r間，顯著降低了推理延遲。

在互聯(lián)架構(gòu)方面，TPU 8i放棄了傳統(tǒng)的3D Torus互聯(lián)結(jié)構(gòu)，轉(zhuǎn)而采用分層式的Boardfly網(wǎng)絡拓撲。這種架構(gòu)由基礎(chǔ)單元（4枚完全互聯(lián)的芯片）組成，進一步擴展為本地化組，最后通過OCS互聯(lián)成集群。在這種架構(gòu)下，任意兩枚芯片之間的通信最多只需經(jīng)過7次跳轉(zhuǎn)（上一代為16跳），全對全通信延遲改善了最高50%。這對于MoE模型中頻繁跨芯片路由令牌（Token）的操作至關(guān)重要，有效提升了推理效率。

此外，TPU 8i還新增了片上集合加速引擎（CAE），該引擎可以卸載全局操作，將片上集合操作的延遲降低至多5倍。這對于自回歸解碼和思維鏈處理等需要多芯片緊密協(xié)作的任務來說，無疑是一個巨大的提升，有效增強了集群的并發(fā)效率。

谷歌針對不同芯片的特性選擇了不同的設計合作伙伴。TPU 8t由博通共同設計，借助博通在高性能ASIC設計領(lǐng)域的經(jīng)驗，實現(xiàn)了極致的計算密度和互聯(lián)性能。而TPU 8i則由聯(lián)發(fā)科參與設計，旨在通過聯(lián)發(fā)科的工程能力打造高性價比的推理加速器。兩款芯片均運行在谷歌自研的Axion ARM架構(gòu)CPU平臺上，并由谷歌第四代液冷技術(shù)提供散熱支持，這種全棧自研與定制合作相結(jié)合的模式，有助于谷歌在保證性能的同時，控制數(shù)據(jù)中心的總體擁有成本（TCO）。

全棧生態(tài)：從芯片到智能體平臺

硬件的迭代升級，本質(zhì)是為軟件生態(tài)的蓬勃發(fā)展提供支撐。在此次大會上，谷歌同步推出多項針對 AI 智能體的軟件與平臺更新，全力打通從底層算力到頂層應用的完整鏈路。

在 Gemini 企業(yè)代理平臺領(lǐng)域，谷歌推出專為 AI 代理打造的一站式平臺——Gemini Enterprise。該平臺集模型選擇、構(gòu)建及代理開發(fā)功能于一身，功能強大且全面。其中的 Agent Studio 獨具特色，企業(yè)可借此構(gòu)建具備長期記憶、能執(zhí)行多步驟流程的智能體，極大拓展了智能體的應用邊界。同時，谷歌推出“知識目錄”（Knowledge Catalog）和跨云湖倉（Cross - Cloud Lakehouse），打破數(shù)據(jù)壁壘。AI 智能體得以無縫訪問 AWS、Azure 等外部云服務商的數(shù)據(jù)，有效解決數(shù)據(jù)孤島問題，讓 AI 能夠精準回答涉及復雜業(yè)務關(guān)系的深度問題。

谷歌 Workspace 套件也迎來智能化升級。通過全新的 Workspace Intelligence 層，Gemini 能夠跨 Gmail、Docs 和 Drive 深度理解上下文?；诖?，智能體可自動安排會議、生成契合品牌形象的 PPT，甚至在 Gmail 中提供智能收件箱助手，全方位提升辦公效率。為加速企業(yè)向谷歌 Workspace 的遷移，谷歌還推出“快速企業(yè)遷移”功能，將遷移速度提升至原來的 5 倍，降低企業(yè)遷移成本。

谷歌第八代 TPU 的發(fā)布對行業(yè)的影響，可能遠不止硬件規(guī)格的迭代這么簡單，它也對 AI 基礎(chǔ)設施發(fā)展方向提供了參考價值。

在能效與成本平衡方面，面對電力供應成為數(shù)據(jù)中心主要制約因素的現(xiàn)狀，TPU 8t 和 8i 均將能效作為核心考量指標。與上一代 Ironwood 相比，TPU 8t 每瓦性能提升 124%，TPU 8i 提升 117%。能效的顯著提升，使企業(yè)能在相同電力預算下提供更多算力服務，有效控制成本。

光互聯(lián)市場也迎來新機遇。TPU 8 系列對高帶寬和低延遲的極致追求，有力推動光模塊和光路交換機（OCS）市場增長。尤其是 TPU 8i 在推理集群中全面采用 OCS 全互聯(lián)技術(shù)，預示光交換技術(shù)將從訓練集群向推理集群廣泛滲透，相關(guān)產(chǎn)業(yè)鏈市場空間有望進一步拓展。

寫在最后

目前，亞馬遜、微軟和Meta等科技巨頭也在積極布局自研AI芯片。谷歌通過“訓練+推理”的雙芯策略，結(jié)合自研CPU和液冷技術(shù)，構(gòu)建了垂直整合的競爭優(yōu)勢。雖然英偉達在通用GPU市場仍占據(jù)主導地位，但谷歌通過定制化的ASIC路線，正在為企業(yè)級AI應用提供一種高性價比的替代方案。

總體而言，谷歌TPU 8t和8i的推出，旨在以更具成本效益的方式提供大規(guī)模吞吐量和低延遲能力，從而支撐起AI智能體時代的算力需求。這兩款芯片預計將于2026年晚些時候正式面向市場推出。