返回全部动态

SGLang v0.5.12.post1 发布:修复 DeepSeek V4 多项稳定性问题

原标题:v0.5.12.post1

SGLang Releases一手来源产品发布质量 83

AI 摘要

SGLang 发布 v0.5.12.post1 稳定性补丁,包含 12 个修复,主要针对 DeepSeek V4 系列问题,如 B200/B300 上的解码乱码、EAGLE/MTP 崩溃、NSA 预填充调度器崩溃等,并修复了 PD 分离、HiSparse 精度等问题。性能方面优化了冷启动延迟和 JIT 编译成本。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

v0.5.12.post1 is a stability patch on top of v0.5.12. It cherry-picks 12 fixes — primarily for DeepSeek V4 — onto the release branch. # Bug Fixes ## DeepSeek V4 * DSV4-Pro emits garbled text during single-token decode on B200/B300 (fix `deep_gemm` UE8M0 scale-packing path by ceiling activation scales before packing): #25733 * DSV4 + EAGLE/MTP in disaggregation decode crashes around 2000 requests with a SWA allocator assertion (recycled KV pages kept stale sliding-window mappings): #25805


发布时间:2026-05-27 07:58
抓取时间:2026-08-02 00:31
来源机构:SGLang
阅读原文github.com