Xinference 发布 v4.1.0：新增多模型支持与 TRT-LLM 后端

AI 摘要

Xinference 发布 v4.1.0，新增对 DeepSeek-V4.1-Flash、GLM-5.3、Qwen3.8-Flash-Next、MiniCPM-V-4.7 等模型的支持，并加入 TRT-LLM 后端与 Xavier KV 缓存共享、Anthropic 上下文管理、fastapi-guard 安全中间件等能力。该版本还优化了工具调用流式解析性能（32KB 调用从 12.5 秒降至 11 毫秒），并支持模型与 Worker 升级期间不中断推理服务。

正文节选

# What's new in 4.1.0 (2026-10-25) These are the changes in inference v4.1.0. ## New features * feat(model): support DeepSeek-V4.1-Flash model by @llyycchhee in https://github.com/xorbitsai/inference/pull/5661 * feat(image): add Qwen-Image-2.1-Turbo support by @Minamiyama in https://github.com/xorbitsai/inference/pull/5665 * feat(api): add optional fastapi-guard security middleware by @rennf93 in https://github.com/xorbitsai/inference/pull/5664 * feat(model): support glm-5.3 model by @llyycchhee

发布时间：2026-10-25 15:33

抓取时间：2026-10-25 16:15

来源机构：Xorbits