返回全部动态
llama.cpp b11717：Hexagon 新增 Hadamard 与 Q1_0/Q2_0 支持
原标题：b11717
AI 摘要
llama.cpp 发布 b11717 版本，为 Hexagon 后端新增对 Hadamard MUL_MAT 以及 flat 和 tiled Q1_0、Q2_0 量化格式 GET_ROWS 的支持，并优化了 q8_1 量化器与 vec_dot_q1 的数据包数量。该更新主要提升高通 Hexagon NPU 上的量化推理能力，同时照例提供覆盖 macOS、Linux、Windows、Android 等多平台多后端的预编译包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> hexagon: add support for hadamard MUL_MAT and GET_ROW for flat and tiled Q1_0 and Q2_0 (#30627) * hex-hadamard: add support for hadamard ops * hex-mm: reduce pkt counts in the q8_1 quantizer and vec_dot_q1 * hex-q1/q2: add support for flat and tiled GET_ROWS for Q1_0 and Q2_0 --------- Co-authored-by: Max Krasnyansky <maxk@qti.qualcomm.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/57059545> **ma
发布时间：2026-10-18 10:50
抓取时间：2026-10-18 11:46
来源机构：ggml-org