返回全部动态

llama.cpp b11320 新增 LLM-jp-4.1 Harmony 方言处理器

原标题:b11320

llama.cpp Releases一手来源开源质量 67

AI 摘要

llama.cpp 发布 b11320 版本,在 common 模块中新增了 LLM-jp-4.1 的 Harmony 方言处理器(#29681)。由于 LLM-jp-4.1 虽采用 GPT-OSS 格式,但其分词器会在每个特殊 token 后解码出空格,且并行工具调用以 <|end|> 分隔,导致原有 GPT-OSS 处理器拒绝该输出,因此新增专用处理器,并通过聊天模板中的 chat_format=llm-jp-harmony-v1 声明来启用。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> common : add LLM-jp-4.1 Harmony dialect handler (#29681) LLM-jp-4.1 uses the GPT-OSS format, but its tokenizer decodes a space after every special token and parallel tool calls are separated by <|end|>. The GPT-OSS handler rejects this output, so add a dedicated handler, selected by the chat_format=llm-jp-harmony-v1 declaration in the chat template. Assisted-by: Claude Fable 5.1 </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/ll


发布时间:2026-10-01 19:20
抓取时间:2026-10-01 19:22
来源机构:ggml-org
阅读原文github.com