SGLang 发布 v0.5.23：新增多模型支持与推理性能优化
原标题：v0.5.23
AI 摘要
SGLang 发布 v0.5.23 版本，包含来自 257 位贡献者的 1007 个 PR。该版本新增 Muse Spark Open、MiniMax-M3.1-Flash、MiniCPM-V 4.7 等模型支持，并针对 DeepSeek-V4.1 在 GB300 上实现最高 1.5 倍 prefill 吞吐提升和约 28% 首 token 延迟降低。此外还引入低延迟 megakernel/monokernel 插件、Paged Experts 单卡运行超大 MoE、Google TPU7x 支持以及量化 MoE 上的 LoRA 服务等能力。
正文节选
# Highlights *1007 PRs from 257 contributors.* ## New models | Model | Type | Cookbook | |---|---|---| | Muse Spark Open | LLM / VLM | [link](https://docs.sglang.io/cookbook/autoregressive/Meta/MuseSparkOpen) | | Beam-1.0 | LLM / VLM | [link](https://docs.sglang.io/cookbook/autoregressive/Reflection/Beam-1_0) | | MiniMax-M3.1-Flash | LLM / VLM | [link](https://docs.sglang.io/cookbook/autoregressive/MiniMax/MiniMax-M3.1) | | MiniCPM-V 4.7 | LLM / VLM | [link](https://docs.sglang.io/