返回全部动态
llama.cpp b11982:Hexagon 后端支持 UPSCALE 算子
原标题:b11982
AI 摘要
llama.cpp 发布 b11982 版本,为 Hexagon 后端新增 UPSCALE 算子支持,包含基础实现及针对最近邻 2x/4x 与双线性 4x 的优化,并支持非连续行与维度折叠,改用 vgather 替代标量暂存,将内核选择逻辑移至主机侧。同时新增置换 UPSCALE 测试以覆盖 qwen3-vl 图像转文本场景,并同步提供 macOS、Linux、Android、Windows 等多平台预编译包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> hexagon: support for UPSCALE op (#31331) * hex-upscale: basic upscale ops (not fully vectorized) * hex-upscale: optimize nearest 2x, 4x and bilinear 4x * hex-upscale: add support for non-contig rows and dims collapsing * hex-upscale: use vgather instead of scalar staging * hex-upscale: move all kernel select logic to the host, review comments and cleanups * tests: add permuted UPSCALE test to cover qwen3-vl image->text scenarios </details> **Website:** - <https://llama.ap
发布时间:2026-10-29 20:17
抓取时间:2026-10-30 01:34
来源机构:ggml-org