谷歌扩充第八代TPU产品线:新增TPU 8tx、TPU 8i Max,分别面向机密AI与大内存Agent负载

硬件1周前发布 小马良
22 0

Google Cloud 扩展第八代TPU家族,新增 TPU 8tx、TPU 8i Max 两款机型,至此第八代TPU一共包含四款:TPU 8t(大规模训练)、TPU 8i(低延迟推理)、TPU 8tx、TPU 8i Max。两款新品是基于已有芯片的全新系统配置,依托模块化架构,无需等待全新芯片流片周期,仅调整封装、内存、网络与安全组件;定价、上线区域、全面可用时间暂未公布。

谷歌扩充第八代TPU产品线:新增TPU 8tx、TPU 8i Max,分别面向机密AI与大内存Agent负载

TPU 8tx:面向受监管场景的机密计算TPU

复用TPU 8t硅片,搭配定制AMD主机CPU,搭载硬件级机密计算,对计算过程中的数据、模型权重做保护,加密覆盖运行时,不只是传输和静态存储。

  • 搭载Boardfly网络,性能最高可达原生TPU 8t的2倍,安全开启后性能损耗接近零;
  • 适配场景:敏感数据上的私有微调、模型蒸馏、强化学习、小规模训练与推理,敏感数据无需跨集群搬迁;
  • 目标客户:监管企业、政府机构,处理涉密智能体任务。
谷歌扩充第八代TPU产品线:新增TPU 8tx、TPU 8i Max,分别面向机密AI与大内存Agent负载

TPU 8i Max:大内存智能体专用,双TPU 8i封装

单封装内集成两颗TPU 8i芯片,计算、片上SRAM、HBM带宽全部翻倍,机架空间占用不变,算力密度提升。

  • 主打场景:百万Token长上下文、超大代码库处理、长视频相关智能体任务;
  • 官方未公布更新后的HBM总容量,原TPU 8i规格:288GB HBM、384MB SRAM、8601GB/s带宽。

配套AI软件基础设施更新

  1. TorchTPU:原生PyTorch支持,内置vLLM、SGLang TPU后端;
  2. TPU Agent套件(预览):对接Claude Code、Cursor、Google Antigravity,用于环境初始化、性能诊断、内核调优;
  3. 开源XLA Serving Engine:低延迟C++运行时,统一在TPU/GPU/CPU上部署模型;
  4. Agent Compute Engine:智能体会话空闲时毫秒级把KV、工作内存移出加速器,解决Agent长时间等待工具/人工输入时显卡空占问题;
  5. TPU Sync:打通HBM、主机内存、共享存储、网络的分层内存系统,负责KV缓存迁移、上下文跨节点传递、RL权重同步,官方称KV传输延迟、首token耗时下降90%以上;
  6. Cloud Pathways(GKE全量可用):Gemini同款运行时,统一管理多TPU切片,支持预训练、RL、推理;切片故障可在1分钟内完成替换重调度;
  7. GKE动态切片:光路交换动态合并/拆分TPU资源,作业启动最高提速5倍,故障恢复提速4.5倍。

业务背景

Google TPU目前服务近百家客户,覆盖前沿AI实验室、金融、零售、高校。本次细分硬件配置,就是为了区分训练、通用推理、机密计算、超大上下文Agent四类差异化负载,不再用一套硬件适配所有场景。

© 版权声明

相关文章