返回全部动态
llama.cpp b11604：KleidiAI 新增 SME2 Q4_K/Q6_K 矩阵乘法支持
原标题：b11604
AI 摘要
llama.cpp 发布 b11604 版本，主要变更是为 KleidiAI 后端新增 SME2 指令集下的 Q4_K 和 Q6_K 矩阵乘法支持，由 Arm 的 Charles Xu 提交。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了 Arm 平台上的量化推理性能。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> kleidiai: add SME2 Q4_K and Q6_K matmul support (#29219) Change-Id: Ib4aa4c9814c010f9cf084783cc80612e364f9a27 Change-Id: I406a6606c3fea51f8cd32331c1ed71466845d363 Change-Id: Ib4aa4c9814c010f9cf084783cc80612e364f9a27 Signed-off-by: Charles Xu <charles.xu@arm.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/55612588> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/re
发布时间：2026-10-14 06:18
抓取时间：2026-10-14 07:11
来源机构：ggml-org