llama.cpp b11776：投机解码支持 logprobs
原标题：b11776
AI 摘要
llama.cpp 发布 b11776 版本，其 server 组件新增在投机解码（speculative decoding）路径下返回 logprobs 的支持（PR #27196），并补充了回归测试，验证被接受的草稿 token 会报告目标模型的 logprobs，与未启用草稿的基线对比。该修复解决了 master 分支上 top_logprobs 为空、logprob 为 0.0 的问题。同时该版本提供了覆盖 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端的预编译二进制包。
正文节选
<details open> server: Support logprobs with speculative decoding (#27196) * return logprobs in spec path * server: add regression test for logprobs with speculative decoding Asserts accepted draft tokens report the target model's logprobs, comparing a draft-enabled run against a no-draft baseline (#24271). Fails on master (top_logprobs empty, logprob 0.0), passes with the fix from #27196. Co-Authored-By: Claude Fable 5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_