返回全部动态

llama.cpp 发布 b12194:Hexagon 后端清理与多平台构建

原标题:b12194

llama.cpp Releases一手来源开源质量 61

AI 摘要

llama.cpp 发布构建版本 b12194,主要包含针对 Hexagon NPU 后端的清理与优化:根据架构设置 N_HVX 和 N_THREADS 以避免过度分配,将追踪状态与辅助函数迁移到新的 htp-trace.h 头文件,清理 dcache 宏定义,并支持通过 build.py 启用 HTP_DEBUG。同时修复了 CI 中的 Python 类型与 linter 警告。该版本为 macOS、Linux、Android、Windows 等多平台提供 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端二进制包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> hexagon: n_hvx and n_threads cleanup (#31857) * hex-nhvx: apply nhvx updates to the latest master * hex-nhvx: set N_HVX and N_THREADS based on the arch to avoid overallocation * hex-build: add support for enabling HTP_DEBUG via build.py * hex-trace: move tracing state/helpers into new htp-trace.h header * hex-dcache: cleanup dcache #defines * hex-hnvx: minimize the diff by reflowing the macros * hex-ci: fix python type/linter warnings * hex-nhvx: consitent logging </deta


发布时间:2026-11-08 08:19
抓取时间:2026-11-08 08:45
来源机构:ggml-org
阅读原文github.com