返回全部动态
DeepSpeed 发布 v0.19.7 补丁版本
原标题:v0.19.7 Patch Release
AI 摘要
DeepSpeed 发布 v0.19.7 补丁版本,包含大量修复与改进,涉及 ZeRO 检查点导出 dtype 可配置、AutoTP/AutoEP 相关修复、Triton 注意力路径清理、CPU Adam 的 ARM SVE 内核、macOS MPS CI 支持等。该版本主要提升训练框架的稳定性与兼容性,并新增若干可选优化路径。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
## What's Changed * Add configurable dtype for ZeRO checkpoint export by @gaoxiaomo in https://github.com/deepspeedai/DeepSpeed/pull/8318 * Raise the per-tensor norms to norm_type when combining them by @vineethsaivs in https://github.com/deepspeedai/DeepSpeed/pull/8313 * Fix the seq-first Ulysses all2all output layout by @vineethsaivs in https://github.com/deepspeedai/DeepSpeed/pull/8317 * Count each module object once when aggregating flops profiler totals by @ebarkhordar in https://github
发布时间:2026-09-17 06:00
抓取时间:2026-09-19 18:38
来源机构:Microsoft