返回全部动态

llama.cpp b10870 发布:Vulkan 新增 f16 B 型流水线

原标题:b10870

llama.cpp Releases一手来源产品发布质量 72

AI 摘要

llama.cpp 发布 b10870 版本,主要更新为 Vulkan 后端新增 f16 B 型矩阵乘法流水线,并为 Intel coopmat1 调整 warp tile 大小。该功能在密集矩阵乘法中已对所有厂商启用,而 MoE 部分仍仅限 Intel。同时提供了多平台预编译二进制文件。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> vulkan: add f16 B-type matmul pipelines and warp tile size tuning for Intel coopmat1 (#27471) * vulkan: add f16 B-type matmul pipelines and warp tile size tuning for Intel coopmat1 * simplify mmp selection in mul_mat_id per review comment * vulkan: enable f16 B-type pipeline for dense matmul on all vendors (MoE stays Intel-only) * vulkan: add missing ocp_fp4 branches, restrict required_subgroup_size to Intel, fix mmp selection * refine mmp selection in mul_mat_id * add f16B


发布时间:2026-09-09 14:38
抓取时间:2026-09-09 14:53
来源机构:ggml-org
阅读原文github.com