Google 於 11 月 9 日在官方部落格發表第八代 TPU 的兩款新系統：針對機密推理的 TPU 8tx，以及應付超長上下文的 TPU 8i Max[1]。文章由 Google 高級副總裁 Amin Vahdat 撰寫，指這是公司首次在一年內推出四款 TPU 系統，連同 4 月面世的 8t 與 8i，第八代產品線已覆蓋大規模訓練、低延遲推理、機密運算與高密度部署四個環節[1]。Google 同時披露，TPU 目前有接近 100 個客戶，包括前沿實驗室、交易公司、零售商及大學[1]。
把加密邊界推到使用中的數據
TPU 8tx 沿用 TPU 8t 的晶片，主機配搭第五代 AMD EPYC 處理器，將保安直接做在硬件層。一般系統只會在數據儲存或經網絡傳輸時加密，運算期間仍須在記憶體中解密；8tx 就令敏感數據與模型權重在使用期間保持隔離，適合受監管企業與政府運行前沿模型、專有模型及自主代理[1]。
這款系統同時具備訓練能力。Google 表示，企業可以在同一套系統上以私有數據微調模型、把大模型蒸餾成小模型，以及透過強化學習訓練代理，不需要在敏感數據之間搬移集群[1]。配合為實時推理而設的 Boardfly 低延遲網絡，8tx 的延遲比 TPU 8t 低最多一倍，而效能損失接近零[1]。
一個封裝兩粒晶片的思路
TPU 8i Max 處理的是另一個瓶頸：記憶體牆。當數十個代理同時在一個程式碼庫或數小時影片上工作，記憶體頻寬很快成為限制。Google 的做法是把兩粒低延遲的 TPU 8i 合併到同一個封裝，令運算力、SRAM 及 HBM 頻寬同時倍增[1]。
由於在同一個機架面積內容納兩倍晶片，數據中心每平方呎及每瓦可部署的算力亦相應提高[1]。Google 形容，四款系統合起來，等於為代理生命週期的每個階段提供一款專用加速器：8t 負責規模化訓練，8i 負責低延遲推理，8tx 負責機密運算，8i Max 負責超長上下文與最高機架密度[1]。
軟件層同步開放
硬件之外，Google 近月把重心放在降低使用門檻。10 月 20 日，Google 在 PyTorch Conference 宣布 TorchTPU 開源，令 PyTorch 程式碼及 Hugging Face 模型可以在 TPU 上原生運行，並提供 vLLM、SGLang、llm-d 等推論引擎的現成後端[2]。官方指 TorchTPU 與 Meta 的 PyTorch 團隊共同開發，開發者可以先用 eager 模式除錯，再以 torch.compile 進入生產效能[2]。
配合新硬件，Google 亦開放 TPU agent suite（預覽版），可直接接入 Claude Code、Cursor、Google Antigravity 等編碼工具，用自然語言完成 TPU 上手設定、瓶頸診斷及自訂核心調優[1]。另外，開源的 XLA Serving Engine 讓模型以 Python 訓練後，直接在低延遲的 C++ 執行環境服務，跨 TPU、GPU 與 CPU 使用[1]；TPU Sync 則把晶片的 HBM、主機 DRAM、共享儲存與數據中心網絡整合成單一記憶體層級，官方稱可把 KV 傳輸延遲與首個 token 時間減少超過九成[1]。
在調度層面，Cloud Pathways 已在 Google Kubernetes Engine 正式可用，讓客戶以單一控制器編排多個 TPU 切片，並在硬件故障時以熱切換維持長時間訓練[1]；GKE dynamic slicing 亦已正式可用，透過光路交換技術即時重組 TPU 拓撲，官方稱可把作業啟動時間縮短最多五倍，故障恢復加快最多四點五倍[1]。
硬件之外的一場生態戰
Google 在文中反覆強調「把電腦圍繞晶片來建」：新晶片動輒數年，但封裝、記憶體、光網絡與保安可以在數月內調整，因此同一代晶片可以快速衍生出不同系統[1]。這種模組化路線，配合開源軟件堆疊，明顯是衝着開發者慣用 GPU 的生態而來。
對企業而言，8tx 與 8i Max 的實際意義，在於代理工作負載的兩個痛點終於有專門硬件對應：受監管行業不必再把敏感數據搬去另一個集群，長上下文代理亦不必因頻寬不足而停頓。不過，兩款系統的供應時間、定價與區域可用性，官方貼文並未交代，仍要留待 Google Cloud 後續公布。
參考資料
[1] Our newest TPUs: 8tx and 8i Max, built for the agentic era（2026年11月9日）
[2] TorchTPU is now open source: Run native PyTorch on TPUs（2026年10月20日）