返回全部动态

llama.cpp b11345:Hexagon 后端新增 q2_k/q3_k 量化支持

原标题:b11345

llama.cpp Releases一手来源开源质量 63

AI 摘要

llama.cpp 发布 b11345 版本,主要变更是为 Hexagon 后端新增 q2_k 和 q3_k 两种量化类型的支持,并统一了 src1_row_size 的分配逻辑,该改动由高通工程师 Max Krasnyansky 参与提交。同时该版本照例提供 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> hexagon: add q2_k and q3_k quant type support (#29717) * hexagon: add q2_k and q3_k quant type support * hex-qk: consistent allocation of src1_row_size --------- Co-authored-by: Max Krasnyansky <maxk@qti.qualcomm.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/52157708> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11345/llama-b11345-bin-mac


发布时间:2026-10-02 21:06
抓取时间:2026-10-02 21:49
来源机构:ggml-org
阅读原文github.com