返回全部动态
llama.cpp b11490 发布：Hexagon 后端启用 alloc_buffer_n
原标题：b11490
AI 摘要
llama.cpp 发布 b11490 版本，主要更新为 Hexagon 后端启用 alloc_buffer_n，新增对大张量拆分到独立缓冲区的支持，并将 GGML_HEXAGON_MBUF 改为接受 dyn、static、total 三个值，同时把动态缓冲区默认值从 128MB 提升到 512MB 以改善大 MoE 模型性能。此外新增 --no-embd-offload 选项，并同步发布 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> hexagon: enable alloc_buffer_n (#30126) * hex-bufs: add support for alloc_buffer_n * hex-bufs: add support for splitting large tensors into separate buffers * hex-bufs: update GGML_HEXAGON_MBUF to accept three values dyn,static,total * hex-bufs: bump dyn. default to 512MB since 128MB causes perf regressions with big MOEs * hex-run: add --no-embd-offload option to simplify command lines on devices that need it * Update scripts/snapdragon/run.py Co-authored-by: Jhen-Jie Hon
发布时间：2026-10-08 12:58
抓取时间：2026-10-08 13:07
来源机构：ggml-org