返回全部动态

llama.cpp b11046:OpenCL 新增 flash_attn bin kernel 支持

原标题:b11046

llama.cpp Releases一手来源开源质量 63

AI 摘要

llama.cpp 发布 b11046 版本,主要变更为在 OpenCL 后端新增对 bin kernel `flash_attn_f32_f16_bin` 的支持,并对 prefill 阶段的 flash attention 做了保护性处理。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> opencl: add support for bin kernel `flash_attn_f32_f16_bin` (#29046) * opencl: add `flash_attn_f32_f16_bin` * opencl: guarded prefill fa </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/48577094> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11046/llama-b11046-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https:/


发布时间:2026-09-19 07:56
抓取时间:2026-09-19 18:01
来源机构:ggml-org
阅读原文github.com