返回全部动态
llama.cpp b10906：修复图像后推测解码位置传递问题
原标题：b10906
AI 摘要
llama.cpp 发布 b10906 版本，修复了服务器端在图像输入后进行推测解码（speculation）时的位置传递问题：此前向 drafter 传递的是 token 数量而非实际位置，该问题影响所有 drafter 而不只是 DFlash。同时将 draft 参数 n_past 重命名为 pos0，以明确其表示位置而非 token 数。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> server: fix speculation after an image (#28715) * server: fix speculation after an image Pass the actual position to the drafter after an image, instead of the token count. Affects every drafter, not just DFlash. * rename draft n_past to pos0 n_past is used to denote number of tokens and this parameter is meant to be a position </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/46826885> **macOS/iOS:** - [
发布时间：2026-09-11 18:40
抓取时间：2026-09-11 19:25
来源机构：ggml-org