llama.cpp Vulkan 后端实现一元激活与乘法融合优化

原标题：b10858

llama.cpp Releases一手来源产品发布质量 80

AI 摘要

llama.cpp 的 Vulkan 后端在 b10858 版本中实现了将 GELU、SIGMOID、SILU、SOFTPLUS 等一元激活函数与 MUL 操作融合的优化，通过专门的着色器变体和图优化来提升性能。该融合支持广播、非相邻节点（如 view 等零计算节点）以及操作数在 B 侧的情况，并修复了相关回归。此优化主要针对 Vulkan 后端，可提升 prompt 处理速度。

以上摘要由 AI 生成，可能存在误差。事实请以原文为准。

正文节选

<details open> vulkan : fuse UNARY(GELU|SIGMOID|SILU|SOFTPLUS) + MUL (#27220) * vulkan : fuse UNARY(SIGMOID|SILU|SOFTPLUS) + MUL * vulkan : fuse UNARY(SIGMOID|SILU|SOFTPLUS) + MUL - implement fusion in unary.comp behind UNARY_MUL_FUSION ifdef, specialized pipelines per op instead of runtime branching - fuse adjacent nodes only, ordering handled by graph_optimize - drop runtime consumer scan and pending_unary_mul deferral * vulkan : fuse UNARY(GELU|SIGMOID|SILU|SOFTPLUS) + MUL 1. GELU: ge

发布时间：2026-09-08 20:06

抓取时间：2026-09-08 20:58

来源机构：ggml-org

阅读原文github.com