返回全部动态
LMDeploy 发布 v0.18.0：新增 logprobs 与多平台支持
原标题：v0.18.0
AI 摘要
LMDeploy 发布 v0.18.0 版本，新增输出输入 logprobs、扩展 SM90 量化 GEMM、支持昇腾平台 glm52、为 qwen3.5 支持 dflash，并将共享专家移入 MoE FFN 层。该版本还包含大量性能改进与重构，如 TurboMind 迁移至 C++20、新增分段 CUDA graph 预填充、支持 checkpoint-engine 权重更新等，同时修复了工具调用、FP8 量化、多模态预处理等多个问题。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<!-- Release notes generated using configuration in .github/release.yml at main --> ## What's Changed ### 🚀 Features * [Feat]: Support output input logprobs by @RunningLeon in https://github.com/InternLM/lmdeploy/pull/4793 * Expand SM90 quantized GEMMs and unify TurboMind linear execution by @lzhangzz in https://github.com/InternLM/lmdeploy/pull/4943 * [ascend] support glm52 by @wanfengcxz in https://github.com/InternLM/lmdeploy/pull/4928 * Support dflash for qwen3.5 by @RunningLeon in
发布时间：2026-09-28 15:04
抓取时间：2026-09-28 15:59
来源机构：Shanghai AI Laboratory