返回全部动态
llama.cpp b10664 发布:Hexagon HTP 新增 ABS 与 LOG 加速
原标题:b10664
AI 摘要
llama.cpp 发布 b10664 版本,为 Hexagon HTP 后端新增了 ABS 和 LOG 两个一元运算的 HVX 加速实现,提升了在 Qualcomm 平台上的推理性能。该版本同时提供了覆盖 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> ggml-hexagon: add HTP unary ops for ABS and LOG (#27786) Add HVX-accelerated implementations for GGML_OP_LOG and GGML_UNARY_OP_ABS on the HTP backend. - Register HTP_OP_UNARY_ABS and HTP_OP_UNARY_LOG in op_remap_to_htp() - Add ABS and LOG to ggml_backend_hexagon_device_supports_op() - Implement hvx_abs_f32_aa() in hvx-arith.h using hvx_vec_abs_f32() - Implement hvx_log_f32_aa() in hvx-log.h using hvx_vec_log_f32() - Add abs_f32() and log_f32() row-wise dispatch in unary-ops.c -
发布时间:2026-08-28 06:47
抓取时间:2026-08-28 18:12
来源机构:ggml-org