返回全部动态

llama.cpp b11582:ggml-zdnn 引入 Q8_0 矩阵乘法

原标题:b11582

llama.cpp Releases一手来源开源质量 63

AI 摘要

llama.cpp 发布 b11582 版本,主要变更是为 ggml-zdnn 后端引入 Q8_0 矩阵乘法(mat mul)的初步原型实现,并同步更新了 zdnn 相关文档。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 等多平台多硬件后端的预编译二进制包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> ggml-zdnn : introduce Q8_0 mat mul (#29836) * ggml-zdnn: initial prototype of q8_0 matmul Signed-off-by: Aaron Teo <aaron.teo1@ibm.com> * docs: update zdnn docs Signed-off-by: Aaron Teo <aaron.teo1@ibm.com> --------- Signed-off-by: Aaron Teo <aaron.teo1@ibm.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/55333692> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cp


发布时间:2026-10-13 16:29
抓取时间:2026-10-13 17:37
来源机构:ggml-org
阅读原文github.com