返回全部动态

谷歌发布TPU 8i Max与8tx,HBM带宽翻倍

原标题:刚刚,谷歌发布新AI芯片,HBM带宽翻倍

智东西产品发布质量 68

AI 摘要

谷歌发布第八代TPU的两款新品TPU 8i Max和TPU 8tx,前者主打超大上下文窗口与单机柜最高算力密度,算力、SRAM和HBM带宽均为TPU 8i的两倍;后者面向安全与机密推理,延迟最高降低一半。这是谷歌首次一年内推出4款TPU,覆盖智能体全生命周期。谷歌同时升级开源软件栈,向PyTorch开发者开放TPU,并开源TPU智能体工具套件、XLA Serving Engine、TPU Sync等,以降低TPU使用门槛并提升智能体场景下的算力效率。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

芯东西(公众号:aichip001) 编译 |  程茜 编辑 |  Panken 芯东西11月9日消息,刚刚,谷歌发布两款TPU,分别是面向超大上下文窗口设计、主打单机柜最高算力密度的TPU 8i Max,以及支持安全与机密推理的TPU 8tx。 谷歌称,相比TPU 8t,TPU 8tx最高可将延迟降低一半,性能损耗几乎可以忽略不计;TPU 8i Max的算力、SRAM以及HBM带宽均为TPU 8i的2倍。 这是谷歌首次在一年内推出4款TPU。今年4月,谷歌曾推出两款新型专用TPU,分别为用于大规模训练的8t,和用于实时推理的8i。 至此,谷歌第八代TPU的4款TPU可覆盖智能体全生命周期。 除了推出最新的TPU,谷歌还为开发者升级了统一的开源软件栈。 一、针对机密计算和内存墙,谷歌甩出2款TPU 谷歌此前一直与谷歌DeepMind合作设计TPU,但随着计算范式从面向人类交互,转向面向智能体的任务,企业需要能够在超大上下文窗口内完成推理的加速器。部分强监管行业客户还要求为专属业务负载提供专用加密能力。 这就是谷歌此次推出两款新TPU的原因,其目标是让每位开发者和云客户都能便捷使用TPU


发布时间:—
抓取时间:2026-11-10 01:38
来源机构:智东西
阅读原文zhidx.com