返回全部动态

llama.cpp b10267 发布:重构投机解码配置

原标题:b10267

llama.cpp Releases一手来源产品发布质量 67

AI 摘要

llama.cpp 发布 b10267 版本,主要重构了 speculative decoding 的配置初始化逻辑,减少代码重复,现有测试通过。该版本提供了多平台二进制包,包括 macOS、Linux、Windows、Android 等,并支持多种后端如 Vulkan、CUDA、ROCm 等。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> speculative : refactor enabled configs common_speculative_init (#26510) This commit contains a suggestion to reduce some code duplication in common_speculative_init when adding the enabled speculative decoding configurations. No tests were added but the existing server tests still passes with this change: ```console $ ./tests.sh unit/test_speculative.py -v -x ``` </details> **Website:** - <https://llama.app> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/g


发布时间:2026-08-04 23:55
抓取时间:2026-08-05 00:45
来源机构:ggml-org
阅读原文github.com