llama.cpp b11700 新增 Granite Switch 决策模型支持

原标题：b11700

llama.cpp Releases一手来源开源质量 67

AI 摘要

llama.cpp 发布 b11700 版本，主要新增对 IBM Granite Switch 决策模型（decision model）的转换与推理支持，并允许该模型同时进行聊天与决策。相关改动由 IBM 的 Gabe Goodhart 提交，期间部分 chat+decision 支持被回滚，最终简化为 Granite Switch 支持决策时也始终支持文本。该版本同时提供 macOS、Linux、Android、Windows 等多平台预编译二进制。

以上摘要由 AI 生成，可能存在误差。事实请以原文为准。

正文节选

<details open> model : Granite Switch Decision (#30676) * feat(convert): Add decision.chat to support decision models that can also chat Branch: GraniteSwitchDecision AI-usage: full (Claude + Sonnet 5.5) Signed-off-by: Gabe Goodhart <ghart@us.ibm.com> * feat(convert): Add conversion for Granite Switch as decision model The template follows from the usage sample: https://huggingface.co/ibm-granite/granite-switch-4.1-8b#guardian-and-decision-side-by-side Branch: GraniteSwitchDecision AI-usag

发布时间：2026-10-17 02:33

抓取时间：2026-10-17 03:29

来源机构：ggml-org

阅读原文github.com