--- title: "Google 加推 TPU 8tx 與 8i Max，把機密運算與超長上下文做進硬件" url: https://sammy.hk/google-tpu-8tx-8i-max/ author: Ethan published: 2026-11-11T11:47:00+08:00 modified: 2026-11-11T09:53:43+08:00 description: "Google 於 11 月 9 日在官方部落格發表第八代 TPU 的兩款新系統：針對機密推理的 TPU 8tx，以及應付超長上下文的 TPU 8i Max[1]。文章由 Google 高級副總裁 Amin Vahdat 撰寫，指這是公司首次在一年內推出四款 TPU 系統，連同 4 月面世的 8t 與 8i，第八代產品線…" categories: [AI] tags: ["AI晶片", google, TPU, "機密運算", "雲端運算"] source: https://sammy.hk --- ![Google 加推 TPU 8tx 與 8i Max，把機密運算與超長上下文做進硬件](https://sammy.hk/wp-content/uploads/2026/11/og_35870.jpg)Google 於 11 月 9 日在官方部落格發表第八代 TPU 的兩款新系統：針對機密推理的 TPU 8tx，以及應付超長上下文的 TPU 8i Max\[1\]。文章由 Google 高級副總裁 Amin Vahdat 撰寫，指這是公司首次在一年內推出四款 TPU 系統，連同 4 月面世的 8t 與 8i，第八代產品線已覆蓋大規模訓練、低延遲推理、機密運算與高密度部署四個環節\[1\]。Google 同時披露，TPU 目前有接近 100 個客戶，包括前沿實驗室、交易公司、零售商及大學\[1\]。 ## 把加密邊界推到使用中的數據 TPU 8tx 沿用 TPU 8t 的晶片，主機配搭第五代 AMD EPYC 處理器，將保安直接做在硬件層。一般系統只會在數據儲存或經網絡傳輸時加密，運算期間仍須在記憶體中解密；8tx 就令敏感數據與模型權重在使用期間保持隔離，適合受監管企業與政府運行前沿模型、專有模型及自主代理\[1\]。 這款系統同時具備訓練能力。Google 表示，企業可以在同一套系統上以私有數據微調模型、把大模型蒸餾成小模型，以及透過強化學習訓練代理，不需要在敏感數據之間搬移集群\[1\]。配合為實時推理而設的 Boardfly 低延遲網絡，8tx 的延遲比 TPU 8t 低最多一倍，而效能損失接近零\[1\]。 ## 一個封裝兩粒晶片的思路 TPU 8i Max 處理的是另一個瓶頸：記憶體牆。當數十個代理同時在一個程式碼庫或數小時影片上工作，記憶體頻寬很快成為限制。Google 的做法是把兩粒低延遲的 TPU 8i 合併到同一個封裝，令運算力、SRAM 及 HBM 頻寬同時倍增\[1\]。 由於在同一個機架面積內容納兩倍晶片，數據中心每平方呎及每瓦可部署的算力亦相應提高\[1\]。Google 形容，四款系統合起來，等於為代理生命週期的每個階段提供一款專用加速器：8t 負責規模化訓練，8i 負責低延遲推理，8tx 負責機密運算，8i Max 負責超長上下文與最高機架密度\[1\]。 ## 軟件層同步開放 硬件之外，Google 近月把重心放在降低使用門檻。10 月 20 日，Google 在 PyTorch Conference 宣布 TorchTPU 開源，令 PyTorch 程式碼及 Hugging Face 模型可以在 TPU 上原生運行，並提供 vLLM、SGLang、llm-d 等推論引擎的現成後端\[2\]。官方指 TorchTPU 與 Meta 的 PyTorch 團隊共同開發，開發者可以先用 eager 模式除錯，再以 torch.compile 進入生產效能\[2\]。 配合新硬件，Google 亦開放 TPU agent suite（預覽版），可直接接入 Claude Code、Cursor、Google Antigravity 等編碼工具，用自然語言完成 TPU 上手設定、瓶頸診斷及自訂核心調優\[1\]。另外，開源的 XLA Serving Engine 讓模型以 Python 訓練後，直接在低延遲的 C++ 執行環境服務，跨 TPU、GPU 與 CPU 使用\[1\]；TPU Sync 則把晶片的 HBM、主機 DRAM、共享儲存與數據中心網絡整合成單一記憶體層級，官方稱可把 KV 傳輸延遲與首個 token 時間減少超過九成\[1\]。 在調度層面，Cloud Pathways 已在 Google Kubernetes Engine 正式可用，讓客戶以單一控制器編排多個 TPU 切片，並在硬件故障時以熱切換維持長時間訓練\[1\]；GKE dynamic slicing 亦已正式可用，透過光路交換技術即時重組 TPU 拓撲，官方稱可把作業啟動時間縮短最多五倍，故障恢復加快最多四點五倍\[1\]。 ## 硬件之外的一場生態戰 Google 在文中反覆強調「把電腦圍繞晶片來建」：新晶片動輒數年，但封裝、記憶體、光網絡與保安可以在數月內調整，因此同一代晶片可以快速衍生出不同系統\[1\]。這種模組化路線，配合開源軟件堆疊，明顯是衝着開發者慣用 GPU 的生態而來。 對企業而言，8tx 與 8i Max 的實際意義，在於代理工作負載的兩個痛點終於有專門硬件對應：受監管行業不必再把敏感數據搬去另一個集群，長上下文代理亦不必因頻寬不足而停頓。不過，兩款系統的供應時間、定價與區域可用性，官方貼文並未交代，仍要留待 Google Cloud 後續公布。 ## 參考資料 \[1\] [Our newest TPUs: 8tx and 8i Max, built for the agentic era（2026年11月9日）](https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx) \[2\] [TorchTPU is now open source: Run native PyTorch on TPUs（2026年10月20日）](https://cloud.google.com/blog/topics/ai-infrastructure/torchtpu-is-now-open-source-run-native-pytorch-on-tpus) ### 相關文章： 1. [Google Project Suncatcher 首次在軌測試：把 TPU 送上太空](https://sammy.hk/google-project-suncatcher-%e9%a6%96%e6%ac%a1%e5%9c%a8%e8%bb%8c%e6%b8%ac%e8%a9%a6%ef%bc%9a%e6%8a%8a-tpu-%e9%80%81%e4%b8%8a%e5%a4%aa%e7%a9%ba/ "Google Project Suncatcher 首次在軌測試：把 TPU 送上太空") 2. [Project Suncatcher 原型衛星入軌：Google 開始收集太空 TPU 數據](https://sammy.hk/project-suncatcher-%e5%8e%9f%e5%9e%8b%e8%a1%9b%e6%98%9f%e5%85%a5%e8%bb%8c%ef%bc%9agoogle-%e9%96%8b%e5%a7%8b%e6%94%b6%e9%9b%86%e5%a4%aa%e7%a9%ba-tpu-%e6%95%b8%e6%93%9a/ "Project Suncatcher 原型衛星入軌：Google 開始收集太空 TPU 數據") 3. [Google 開源 TorchTPU 令 PyTorch 原生跑上 TPU](https://sammy.hk/google-%e9%96%8b%e6%ba%90-torchtpu-%e4%bb%a4-pytorch-%e5%8e%9f%e7%94%9f%e8%b7%91%e4%b8%8a-tpu/ "Google 開源 TorchTPU 令 PyTorch 原生跑上 TPU") 4. [Google 原型衛星回傳首個軌道 AI 回應，TPU 在太空寫出俳句](https://sammy.hk/google-suncatcher-tpu-space/ "Google 原型衛星回傳首個軌道 AI 回應，TPU 在太空寫出俳句")