返回全部动态

llama.cpp b11109 发布:修复 Metal 后端 MUL_MAT_ID 精度门控

原标题:b11109

llama.cpp Releases一手来源开源质量 65

AI 摘要

llama.cpp 发布 b11109 版本,主要修复了 Metal 后端中 mul_mm_id 的 src1 重缩放逻辑,将其置于 ggml_prec 门控之下。同时,ggml-webgpu、CUDA 和 Vulkan 后端在 src1 精度为 F32 时拒绝 MUL_MAT_ID,并修正了 supports_op 的返回值。该版本还提供了覆盖 macOS、Linux、Windows、Android 等多平台的预编译二进制包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> metal : gate mul_mm_id src1 rescale behind ggml_prec (#29029) * metal : gate mul_mm_id src1 rescale behind ggml_prec Assisted-by: Claude Fable 5.1 * ggml-webgpu: reject MUL_MAT_ID when src1 precision is F32 * cuda/vulkan: reject MUL_MAT_ID in supports_op when src1 prec is F32 fix `supports_op` to return false for failing backends when the specified src1 precision is f32 Assisted-by: Claude Fable 5.1 --------- Co-authored-by: yomaytk <yoshimura.masashi.frbs@gmail.com> </d


发布时间:2026-09-23 01:45
抓取时间:2026-09-23 02:23
来源机构:ggml-org
阅读原文github.com