返回全部动态

llama.cpp b10883 发布:Vulkan 矩阵乘法优化

原标题:b10883

llama.cpp Releases一手来源产品发布质量 69

AI 摘要

llama.cpp 发布 b10883 版本,主要更新 Vulkan 后端,使用 spec constant 优化矩阵乘法 A 类型,并调整了共享内存表以减少类型相关开销。该版本还修复了多个编译器警告和特定 GPU(如 Ampere)的回归问题,并提供了多平台预编译二进制文件。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> vulkan: use spec constant for matrix matrix multiplication A-type (#25773) * vulkan: use spec constant for mul mat type_a vulkan: use map for mul_mm shapes cleanup fix indentation fix cm2 and shmem init fix cm2 spec constants fix cm2 bindings consolidate shmem tables and reduce size by type spec constant fix compiler warning fix missing Q2_0 type fix unused warning when integer dot glslc support is missing use minimal shmem size 8 instead of 1 to workaround cm2 compil


发布时间:2026-09-10 01:29
抓取时间:2026-09-10 01:43
来源机构:ggml-org
阅读原文github.com