DeepSeek开源昇腾基础组件,共建AI芯片软件生态
原标题:DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态
AI 摘要
9月30日,DeepSeek正式开源面向华为昇腾算力平台的基础设施组件,包括TileLang高级语言编译工具、DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能算子库及DeepEP分布式通信库,与此前GPU平台开源组件一一对应。华为提供Ascend C API、PTO ISA指令体系及UBL128超节点组网方案支持,并将联合创新成果在CANN社区开源,覆盖大EP低延时推理、大规模训练、KVcache池化与Agentic RL等场景。DeepEP实测Dispatch达375 GB/s、Combine达347 GB/s,接近硬件上限;DeepSeek-V4.1-Flash在EP32离线推理下TPOT=5ms时每卡吞吐2469 tokens/s。此举为中国AI软件生态提供新的算力平台选择,具有里程碑意义。
正文节选
DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态 9月30日,DeepSeek 正式开源面向昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、高性能计算库与分布式通信库,与此前面向GPU平台开源的组件一一对应。Deepseek团队面向华为昇腾平台开源发布基础设施加速库,对中国 AI 软件生态具有里程碑意义,为算力平台提供了新的选择。 本次开源,DeepSeek发布了DeepGEMM、FlashMLA、TileKernel、DeepSelect等高性能昇腾算子库组件和DeepEP分布式通信库。昇腾提供了稳定、开放的Ascend C API接口,使能用户对访存路径及计算流水线进行深度调优,完成高性能算子开发。同时依托开放 Ascend C 编程接口与 PTO ISA 底层指令体系,支持了DeepSeek的TileLang编程开源工作。昇腾生态兼顾不同开发范式,既支持资深开发者进行精细的手工调优,也支持 TileLang 等高级语言的编译对接。 华为向DeepSeek团队提供了联合定义的昇腾超节点SuperPoD Flex 和UBL128组网方案