返回全部动态
llama.cpp b11228:Metal 后端支持左填充与循环填充
原标题:b11228
AI 摘要
llama.cpp 发布 b11228 版本,主要更新是 Metal 后端在 GGML_OP_PAD 算子中支持左侧填充和循环填充,使其与 CPU、CUDA、Vulkan 后端行为对齐,并修复了置换源张量的右侧填充问题。改动还移除了较慢的 f32_4 内核,并按评审意见改用函数常量 FC_PAD 来特化循环填充内核。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> metal: support left and circular padding in GGML_OP_PAD (#29561) * metal: support left and circular padding in GGML_OP_PAD Align Metal with CPU, CUDA and Vulkan: shift the source coordinates by the left paddings, wrap them around with the same wrap_around when circular, and read the source through nb00, which also fixes a right padding of a permuted source. A test case covers it. Drop the f32_4 kernel: its selection is disabled as slower, and it fails two pad cases once enable
发布时间:2026-09-28 19:06
抓取时间:2026-09-28 19:43
来源机构:ggml-org