返回全部动态

llama.cpp b11489:Hexagon Q6_K 反量化加速

原标题:b11489

llama.cpp Releases一手来源开源质量 63

AI 摘要

llama.cpp 发布 b11489 版本,主要变更为 Hexagon 后端针对 Q6_K 权重的反量化(dequant)速度优化(PR #30121),通过额外展开循环因子 2 提升性能。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> hexagon: Q6_K weight dequant speedup (#30121) * hexagon: Q6_K weight dequant speedup Assisted-by: OpenCode * unroll by another factor of 2 Assisted-by: OpenCode </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/53807896> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11489/llama-b11489-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI e


发布时间:2026-10-08 12:35
抓取时间:2026-10-08 13:07
来源机构:ggml-org
阅读原文github.com