返回全部动态

llama.cpp b12195:SYCL 拒绝超显存缓冲区分配

原标题:b12195

llama.cpp Releases一手来源开源质量 56

AI 摘要

llama.cpp 发布 b12195 版本,主要变更是 SYCL 后端拒绝会超出显存的设备缓冲区分配(#31285)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、OpenVINO、SYCL 及骁龙 NPU 等后端。此次更新属于常规构建发布,提升了 SYCL 场景下的显存安全性。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> sycl: refuse device buffers that would exceed VRAM (#31285) </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/64957626> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12195/llama-b12195-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github


发布时间:2026-11-08 09:11
抓取时间:2026-11-08 09:47
来源机构:ggml-org
阅读原文github.com