返回全部动态
llama.cpp b10355 发布：支持多输出后端采样
原标题：b10355
AI 摘要
llama.cpp 发布 b10355 版本，主要支持多输出后端采样功能，并修复了 CPU 与 GPU 之间的采样差异及 Vulkan 测试问题。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> llama : support multi-output backend sampling (#25532) * Enable backend sampling with token speculation * Clamp the mask sum before converting it into the sampled index * Add a numeric context parameter declaring the maximum outputs one sequence * More fixes * Don't reuse memory for output views. * Match dist between CPU and GPU * Fix CPU and backend sampling mismatches * Simpify some of the changes * Fix tests on Vulkan * More test fixes * Rebase changes * Rebase and
发布时间：2026-08-11 07:15
抓取时间：2026-08-11 08:05
来源机构：ggml-org