返回全部动态

llama.cpp b11623:AMD 上改用 SIMT 隐式 GEMM conv2d

原标题:b11623

llama.cpp Releases一手来源开源质量 69

AI 摘要

llama.cpp 发布 b11623 版本,主要变更是 CUDA 后端在 AMD GPU 上使用 SIMT 隐式 GEMM 实现 conv2d,不再依赖 WMMA,并在短归约场景下跳过该 SIMT 路径。该改动由社区贡献者提交,Claude Opus 提供辅助。版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> cuda : use SIMT implicit GEMM conv2d on AMD without WMMA (#30325) * cuda : use SIMT implicit GEMM conv2d on AMD without WMMA Assisted-by: Claude Opus * cuda : update conv2d SIMT comment * cuda : skip SIMT conv2d on AMD for short reductions Co-authored-by: thelittlefireman <5165783+thelittlefireman@users.noreply.github.com> --------- Co-authored-by: thelittlefireman <5165783+thelittlefireman@users.noreply.github.com> </details> **Website:** - <https://llama.app> **Attest


发布时间:2026-10-15 03:51
抓取时间:2026-10-15 04:57
来源机构:ggml-org
阅读原文github.com