天数智芯天垓300实测对标H200,国产GPU转向系统效率与软件适配
原标题:天数智芯天垓300实测对标H200,国产GPU接下来拼什么?
AI 摘要
天数智芯在媒体开放日上披露,其新一代通用GPU天垓300在第三方测试中,典型PD分离部署下单卡端到端吞吐达到英伟达H200的1.05倍,GLM-5.3长上下文MoE吞吐为H200的1.15倍,Agent场景首字延迟降低约10%至30%。公司同时展示AFD异构分离方案(GPU承担Prefill与Decode中的Attention,合作厂商XPU承担FFN),称Decode延迟降低60%,并在软件栈引入Agent与Skills以降低部署优化门槛。端侧方面,彤央TY1200对标英伟达Thor T5000,部分模型性能领先,并预告600T算力的TY2000。
正文节选
0 在实测场景中达到H200的性能水平后,国产GPU的竞争,开始进一步转向系统效率、软件适配与实际交付。 本周的天数智芯媒体开放日上,最新一代天垓300与H200的实机对比,是最直观的性能展示。让GPU与专用芯片组成异构系统,是对推理效率的新探索。软件栈引入Agent与Skills,则试图解决客户部署、适配和优化的工程难题。 天数智芯表示,今年完成的一组第三方测试中,在典型PD分离部署下,天垓300折算单卡端到端吞吐达到H200的1.05倍。这表明国产通用GPU在特定高端推理负载中,已经拥有与H200直接竞争的性能基础。 但从性能接近到客户采购,再到持续扩容,中间仍隔着系统效率、软件适配和稳定交付。当硬件具备竞争力,国产GPU怎样把这种能力转化为客户持续使用的理由?当推理催生更多专用芯片,通用GPU的独特价值是什么? 从云端天垓300到端侧彤央系列,天数智芯也在拓展产品布局,将竞争延伸到不同形态的算力需求中。 天垓300对比H200实测,性能小幅领先 过去很长一段时间,峰值算力是国产AI芯片受到关注的重要指标。但对最终用户而言,设备每秒真正产出多少有效Token,比参数表上的理论算力更