返回全部动态
llama.cpp b10434 发布:支持 reasoning_effort 传递
原标题:b10434
AI 摘要
llama.cpp 发布 b10434 版本,主要更新是在聊天功能中传递 reasoning_effort 参数,并将其存储到 common_chat_templates_inputs 中,供 Jinja 模板使用,同时支持模型特定的翻译。该版本还修复了服务器端从请求体读取 reasoning effort 的问题,并提供了多平台(macOS、Linux、Windows、Android 等)的二进制下载。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> chat : pass reasoning_effort to template * chat: add reasoning_effort to common_chat_templates_inputs Store OpenAI Chat Completions reasoning_effort and make it available to jinja templates (with model specific translations where required). Assisted-by: llama.cpp:Muse-Glimmer-30B * server : fixup reading reasoning effort from body server_chat_convert_responses_to_chatcmpl already handles conversion of Responses API reasoning.effort to reasoning_effort * chat : expose reason
发布时间:2026-08-15 03:22
抓取时间:2026-08-15 04:08
来源机构:ggml-org