返回全部动态

MLX v0.32.3 发布:修复与性能优化

原标题:v0.32.3

MLX Releases一手来源开源质量 78

AI 摘要

MLX 发布 v0.32.3 版本,包含大量 bug 修复与性能优化。主要涉及 Metal 和 CUDA 后端的注意力核函数改进(如 GQA、NAX 注意力、D512 向量注意力)、量化矩阵乘法(qmm)修复、流与并发处理、内存与 I/O 优化,以及 Python API 行为调整(如 unstack 返回 tuple、axis 参数可选)。这些改动提升了框架在 Apple Silicon 和 CUDA 上的稳定性与推理效率。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

## What's Changed * Fix scan and sort for a zero-size axis by @eyupcanakman in https://github.com/ml-explore/mlx/pull/4340 * Add a correction parameter in std and var by @prady0t in https://github.com/ml-explore/mlx/pull/4348 * Fix tests/run.py stuck in macOS CI by @zcbenz in https://github.com/ml-explore/mlx/pull/4410 * Extension Example Updated by @jagrit06 in https://github.com/ml-explore/mlx/pull/4412 * Fix sorted gather_qmm NAX row overflow above 32K by @PhilipJohnBasile in https://git


发布时间:2026-09-29 08:37
抓取时间:2026-09-29 09:38
来源机构:Apple
阅读原文github.com