返回全部动态
llama.cpp 发布 b11236:speculative、mtmd 与 server 迁移至 batch_ext
原标题:b11236
AI 摘要
llama.cpp 发布 b11236 版本,主要变更是将 speculative、mtmd 和 server 迁移到 batch_ext(#29385),并适配 common 模块、新增 common_batch、处理 imrope 及 add()/add_embd() 返回值、增加零填充警告。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> batch: migrate speculative, mtmd and server to batch_ext (#29385) * adapt common * add common_batch * wip * wip: spec * cont * common_speculative_process * server_batch to use common_batch * rm some stale calls Assisted-by: Claude Fable 5.1 * migrate mtmd * handle imrope, handle return val of add()/add_embd() * add spec zeros vector * add warning on zero fill path </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.
发布时间:2026-09-29 02:31
抓取时间:2026-09-29 02:52
来源机构:ggml-org