返回全部动态
llama.cpp b12138：Metal 后端优化矩阵乘并新增 bf16 kernel
原标题：b12138
AI 摘要
llama.cpp 发布 b12138 版本，主要变更是 Metal 后端在 32 <= K < 64 的矩阵乘法场景改用 mul_mm，并新增 bf16 x bf16 矩阵乘 kernel，由 Georgi Gerganov 参与合入。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> metal : use mul_mm for 32 <= K < 64 (#30982) * metal : use mul_mm for 32 <= K < 64 * metal : add bf16 x bf16 mul mat kernel --------- Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/64248274> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12138/llama-b12138-bin-macos-arm64.tar.gz) - macOS Apple
发布时间：2026-11-06 06:07
抓取时间：2026-11-06 06:36
来源机构：ggml-org