返回全部动态
llama.cpp b10693 发布：支持 Hexagon 设备发现与按需会话
原标题：b10693
AI 摘要
llama.cpp 发布 b10693 版本，主要新增对 Hexagon 设备发现和按需创建会话的支持，包括运行时发现可用 NPU 核心、延迟会话分配及清理设备接口，并提前拒绝不存在的设备。该版本同时提供多平台预编译二进制文件，涵盖 macOS、Linux、Windows、Android 等。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> hexagon: support for device discovery and create sessions on demand (#27785) * hex-devices: add support for lazy session allocation and cleanup dev interfaces Co-authored-by: Marco Colombo <mcolombo@qti.qualcomm.com> * hex-devices: support for runtime discovery of available NPU cores Co-authored-by: Alexander Lu <alexlu@qti.qualcomm.com> Co-authored-by: Ehsan Bateni <ebateni@qti.qualcomm.com> * hex-devices: reject non-existing devices early during init --------- Co-authore
发布时间：2026-08-30 20:43
抓取时间：2026-08-30 21:29
来源机构：ggml-org