返回全部动态
llama.cpp b11496:SYCL 后端通过固定环形缓冲区分阶段批量上传模型
原标题:b11496
AI 摘要
llama.cpp 发布 b11496 版本,主要变更是为 SYCL 后端引入通过固定环形缓冲区(pinned ring buffer)分阶段进行模型加载时的批量上传(PR #29608)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> sycl: stage bulk uploads (model loading) through a pinned ring buffer (#29608) Co-authored-by: cwriter <cwriter@localhost> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/53889002> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11496/llama-b11496-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggm
发布时间:2026-10-08 18:10
抓取时间:2026-10-08 19:12
来源机构:ggml-org