返回全部动态
vLLM v0.24.0 发布：新增 MiniMax-M3 与 DiffusionGemma 支持
原标题：v0.24.0
AI 摘要
vLLM 发布 v0.24.0 版本，包含 571 个提交，来自 256 位贡献者。新增 MiniMax-M3、DiffusionGemma 等模型支持，并持续优化 DeepSeek-V4 的性能。Model Runner V2 默认支持量化模型，Rust 前端新增多项 API 功能。设备选择机制改为使用 device_ids 参数，不再内部设置 CUDA_VISIBLE_DEVICES。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
# vLLM v0.24.0 Release Notes ## Highlights This release features 571 commits from 256 contributors (77 new)! * **MiniMax-M3**: Added support for the new **MiniMax-M3** model (#45381), with a fast follow-on of BF16/FP8 indexer via MSA (#45892), MXFP4 support (#45896), FP8 sparse GQA (#45744), and extensive AMD/ROCm tuning — mxfp8 MoE/linear on gfx950 (#45725), fp8_per_channel for bf16 weights on MI300X (#45854), FP8 KV-cache fix (#45720), and packed-modules mapping (#45794). A MiniMax-M2
发布时间：2026-06-30 03:41
抓取时间：2026-08-02 00:23
来源机构：vLLM