llama.cpp b11601 发布:Hexagon 后端新增可配置电源模式
原标题:b11601
AI 摘要
llama.cpp 发布 b11601 版本,主要新增 Hexagon 后端可配置的 HTP DCVS/HMX 电源模式支持,通过 GGML_HEXAGON_POWER_MODE 环境变量和 run.py 的 --hex-power-mode 标志进行控制,并保持 HTP 在 DCVS 电源配置下保持唤醒。该版本同时提供覆盖 macOS、Linux、Windows、Android 等平台的多种后端预编译二进制包,包括 CUDA、Vulkan、ROCm、SYCL、OpenVINO 以及 Snapdragon 的 CPU/Adreno GPU/Hexagon NPU 组合。
正文节选
<details open> hexagon: add configurable HTP DCVS/HMX power mode (#30423) * hexagon: add configurable HTP DCVS/HMX power mode * hexagon: address PR review feedback (drop CLI flag, align QAIRT power modes, comment/log cleanup) * hexagon: add --hex-power-mode flag to run.py Hooks GGML_HEXAGON_POWER_MODE into the unified run.py runner, following the existing --hex-nhvx pattern. The env var must be set before the process touches the Hexagon backend registry (see comment in ggml_hexagon_init), s