返回全部动态
SGLang v0.5.19 发布:新增模型支持与多项性能优化
原标题:v0.5.19
AI 摘要
SGLang 发布 v0.5.19 版本,包含 786 个 PR,来自 214 位贡献者。新增支持 Qwen3.8、Ling-3.0、Granite 4.2 等多个模型,并引入 beam search、DeepEP v2、LayerNorm 序列并行等多项性能优化。这些改进提升了推理吞吐量、降低了延迟,并扩展了硬件兼容性。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
# Highlights *786 PRs from 214 contributors.* **New models in this release** (see the [cookbook](https://docs.sglang.io/cookbook) for all supported models): | Model | Type | PRs | Cookbook | |---|---|---|---| | Qwen3.8 (2.4T-A95B) | Autoregressive | [#35758](https://github.com/sgl-project/sglang/pull/35758) ⭐ | [link](https://docs.sglang.io/cookbook/autoregressive/Qwen/Qwen3.8) | | Qwen3.8-27B | Autoregressive | [#34859](https://github.com/sgl-project/sglang/pull/34859) | [link](http
发布时间:2026-09-05 10:27
抓取时间:2026-09-05 10:47
来源机构:SGLang