返回全部动态
llama.cpp b11276：Hexagon 后端新增 F16 激活算子支持
原标题：b11276
AI 摘要
llama.cpp 发布 b11276 版本，为 Hexagon NPU 后端新增 F16 激活算子支持，覆盖 SILU、GELU、GELU_QUICK、GEGLU、SWIGLU，并新增 HVX f16 内核。这些算子在 QRD8850 设备上通过 test-backend-ops 的 CPU 对比正确性测试验证，SWIGLU_OAI 的 F16 路径已可编译但尚无测试覆盖。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> Hexagon f16 activation ops (#29209) * hexagon: add F16 support for activation ops (SILU/GELU/GELU_QUICK/GEGLU/SWIGLU) Widens ggml_hexagon_supported_activations() to accept F16 (src0/dst/src1 must agree on type), and adds F16 per-thread worker functions in act-ops.c mirroring the existing F32 workers, backed by new HVX f16 kernels (hvx_sigmoid_f16_aa, hvx_tanh_f16_aa, hvx_mul_mul_f16_aa, hvx_min_scalar_f16 family). SILU, GELU, GELU_QUICK, GEGLU, and SWIGLU are verified correct
发布时间：2026-09-30 16:58
抓取时间：2026-09-30 17:03
来源机构：ggml-org