返回全部动态
llama.cpp b11645：Metal 张量 API 闪存注意力内核新增 BF16 变体
原标题：b11645
AI 摘要
llama.cpp 发布 b11645 版本，主要变更是为 Metal 后端的 tensor API flash attention kernel 增加了 BF16 变体，并将 tensor FA kernel 移动到 kernels/fa_tensor.metal 文件中。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> metal : add BF16 variant of the tensor API flash attention kernel (#30491) * metal : add BF16 variant of the tensor API flash attention kernel * cont : move tensor FA kernels to kernels/fa_tensor.metal </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/56243049> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11645/llama-b11645-bin-macos-arm64.tar.gz) -
发布时间：2026-10-15 19:56
抓取时间：2026-10-15 20:44
来源机构：ggml-org