llama.cpp b12243:SYCL 为 Alchemist 解除 oneDNN 融合 SDPA 限制
原标题:b12243
AI 摘要
llama.cpp 发布构建版本 b12243,主要变更是为 SYCL 后端在 head_dim=64 时解除对 Intel Alchemist 显卡上 oneDNN 融合 SDPA 的限制。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端。此次更新属于推理框架的硬件后端优化,可提升特定 Intel GPU 上的注意力计算效率。
正文节选
<details open> sycl: un-gate oneDNN fused SDPA for Alchemist at head_dim=64 (#31574) Co-authored-by: Titaniumtown <titaniumtown@proton.me> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/65688285> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12243/llama-b12243-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/gg