Xinference 发布 v4.0.0：新增 Responses API 与 Xavier KV 共享

AI 摘要

Xinference 发布 v4.0.0，新增无状态 OpenAI Responses API（/v1/responses）、jina-ocr-v1 OCR、Confucius4-TTS 支持，并引入 Xavier 快照存储与 KV 缓存共享机制，支持 vLLM、SGLang、MLX 之间的 P/D 分离与跨平台传输。该版本还新增 NIXL 后端、运行时日志中心、跨平台安装与本地服务管理，并修复了 Windows/Metal CI、DeepSeek 工具调用解析等问题。

正文节选

# What's new in 4.0.0 (2026-10-09) These are the changes in inference v4.0.0. ## New features * feat(image): add jina-ocr-v1 OCR support by @Minamiyama in https://github.com/xorbitsai/inference/pull/5588 * feat(api): add stateless OpenAI Responses API (/v1/responses) by @bluefish-08 in https://github.com/xorbitsai/inference/pull/5590 * feat(tts): support Confucius4-TTS by @Minamiyama in https://github.com/xorbitsai/inference/pull/5591 * feat(logs): add runtime log center by @Minamiyama in https:

发布时间：2026-10-09 18:27

抓取时间：2026-10-09 18:42

来源机构：Xorbits