返回全部动态
llama.cpp b10231 发布:支持 DSpark 投机解码 sidecar
原标题:b10231
AI 摘要
llama.cpp 发布 b10231 版本,新增对 DSpark 投机解码 sidecar 的支持,其解析方式与其他 speculative sidecars 类似,并支持 -hfd 标签、自动发现及 -md 选择禁用。在自动选择中,dspark 优先于 dflash,因为其 sidecar 带有额外的马尔可夫头。该版本提供了多平台二进制文件,包括 macOS、Linux、Windows、Android 等。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> common: support the DSpark sidecar resolution (#26458) The dspark- files resolve like the other speculative sidecars: the -hfd tag applies to them, a requested sidecar resolves without a full model at the tag, and an explicit -md selection disables the discovery. When no type is requested, dspark outranks dflash in the auto-selection since its sidecar carries the extra Markov head. </details> **Website:** - <https://llama.app> **macOS/iOS:** - [macOS Apple Silicon (arm64)](ht
发布时间:2026-08-03 02:14
抓取时间:2026-08-03 02:27
来源机构:ggml-org