返回全部动态

llama.cpp b11940:支持延迟工具与 tool_reference 内容片段

原标题:b11940

llama.cpp Releases一手来源开源质量 55

AI 摘要

llama.cpp 发布 b11940 版本,核心变更是 common 模块支持 deferred tools 与 tool_reference 内容片段(PR #31256),并修复了相关测试的类型检查。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 的多后端预编译包,包括 CUDA、Vulkan、ROCm、SYCL、OpenVINO 及 Snapdragon NPU 等。此次更新增强了本地推理框架对工具调用协议的支持,便于在本地部署中实现延迟加载的工具调用。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> common : support deferred tools and tool_reference content parts (#31256) * common : support deferred tools and tool_reference content parts Assisted-by: Claude Opus 5.5 * common : credit the deferred tools co-author Co-authored-by: Aldehir Rojas <765227+aldehir@users.noreply.github.com> Assisted-by: Claude Opus 5.5 * tests : fix the type check of the deferred tools test Assisted-by: Claude Opus 5.5 </details> **Website:** - <https://llama.app> **Attestations:** - <http


发布时间:2026-10-28 08:32
抓取时间:2026-10-28 08:49
来源机构:ggml-org
阅读原文github.com