返回全部动态
一文看懂昇腾超节点:AI Infra已进入系统工程阶段
AI 摘要
华为在HC2026大会上发布昇腾960超节点,基于灵衢+Hi-ONE打造,将4096颗算力卡通过统一内存编址融合为一台逻辑上的超级计算机,提供8EFLOPS FP8算力。华为副董事长汪涛称超节点是10T级参数大模型时代AI基础设施的必然选择,并称Hi-ONE是业界首个量产的NPO产品。文章还介绍了《超节点定义与实践白皮书》对超节点的界定,以及灵衢UnifiedBus互联架构支持最大100万卡集群的规划。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
智东西(公众号:zhidxcom) 作者 | 陈骏达 编辑 | 漠影 AI大模型竞赛,正在进入新的量级。海外,十万亿参数的大模型已经逐步变成现实;国内,数万亿参数的大模型也在加速追赶。为了训出真正的SOTA模型,算力集群从万卡走向10万卡已成为标配。 然而,一个尴尬的现实是:卡越堆越多,真正被利用起来的算力,却没有同步增长。华为的仿真数据显示,在10万卡集群中,卡间通信可能消耗了40%以上的训练时间,算力利用率(MFU)往往不到30%。也就是说,大量昂贵的算力,并没有真正用于计算。 对于训练周期以月计算的前沿大模型而言,MFU每提升几个百分点,都可能意味着数天的训练时间差,以及数千万元甚至上亿元的算力成本变化。 为解决这一挑战,有越来越多的厂商把目光投向一种新的算力组织方式——超节点。与传统集群把计算卡分散在大量服务器中不同,超节点试图通过更紧密的互联、统一的内存空间和更低的通信时延,把数千张卡组织成一个逻辑上的整体。 日前发布的昇腾960超节点,正是这样一套面向10万卡时代的超节点工程化方案。 一、超节点成必然选择,统一内存编址是关键 从去年开始,“超节点”成为AI算力领域热度快
发布时间:—
抓取时间:2026-09-22 01:18
来源机构:智东西