返回全部动态
llama.cpp 发布 b11294：新增行预取并支持 Windows
原标题：b11294
AI 摘要
llama.cpp 发布 b11294 版本，核心变更是新增 llama_prefetch_rows 功能，用于按行预取模型数据，并支持 Windows 平台（由 @praneshgo 贡献的移植代码）。该预取仅在 lazy 模式下启用，同时避免在模型代码中直接暴露 llama-mmap，改由 llama-impl 路由。版本附带 macOS、Linux、Windows、Android 等多平台预编译二进制包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> llama: llama_prefetch_rows (#29599) * llama: llama_prefetch_rows * llama: support row prefetch on Windows Apply the Windows port contributed by @praneshgo unchanged. Source: https://github.com/ggml-org/llama.cpp/pull/29599#issuecomment-5887721014 * avoid exposing llama-mmap in model code, route via llama-impl * add windows check, only prefetch in lazy mode * cont : clean-up * cont : fix build * cont : clarify padding token for gemma4 --------- Co-authored-by: Pranesh G
发布时间：2026-10-01 02:14
抓取时间：2026-10-01 02:16
来源机构：ggml-org