返回全部动态

DeepSpeed v0.19.6 补丁发布:修复与 Apple Silicon 支持

原标题:v0.19.6 Patch Release

DeepSpeed Releases一手来源产品发布质量 83

AI 摘要

DeepSpeed 发布了 v0.19.6 补丁版本,包含多项修复和功能改进,如修复 Ulysses 序列并行中的检查点选择、ZeRO-3 冻结参数问题,并新增对 Apple Silicon (MPS) 的支持(包括 Metal FusedAdam 内核)。此外,还实现了可配置的梯度求和归约、原生主机内存固定后端,以及 AutoTP 的不均匀分片和通用检查点支持。这些更新提升了 DeepSpeed 在多种硬件和场景下的稳定性和性能。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

## What's Changed * Fix checkpoint rank selection for Ulysses sequence parallelism by @sfc-gh-thonguyen in https://github.com/deepspeedai/DeepSpeed/pull/8226 * Return a copy from OnebitLamb.get_lamb_coeffs by @vineethsaivs in https://github.com/deepspeedai/DeepSpeed/pull/8227 * Update version.txt after 0.19.5 release by @loadams in https://github.com/deepspeedai/DeepSpeed/pull/8243 * Implement the documented per-param-group lists in OneCycle by @vineethsaivs in https://github.com/deepspeedai


发布时间:2026-08-28 03:08
抓取时间:2026-08-28 19:00
来源机构:Microsoft
阅读原文github.com