返回全部动态
llama.cpp b11059：Metal FWHT 内核新增 F16 输入支持
原标题：b11059
AI 摘要
llama.cpp 发布 b11059 版本，主要更新 Metal 后端：为 FWHT（快速沃尔什-哈达玛变换）内核新增 F16 输入支持，使内核可直接读取 F16 源数据而无需先转换为 F32。同时将 FWHT 的 supports_op 与调度条件统一到 ggml_metal_use_fwht 谓词，避免两者不一致导致管线为空而中止，并采用无分支 butterfly select 优化 simdgroup 内核，在 M5 Pro 上测得约 3.0% 性能提升。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> metal: add F16 input to the FWHT (#29094) * metal: add F16 input to the FWHT The Metal FWHT kernel accepts F32 input only. This change makes the source type a template parameter, so the kernel reads an F16 source directly instead of requiring a converted copy. The F32 instantiations are unchanged. The pipeline name now carries the source type, and supports_op accepts an F16 src1 for the Hadamard hint at the four sizes the kernels cover. Every other F16 src1 path still goes thr
发布时间：2026-09-20 13:39
抓取时间：2026-09-20 14:22
来源机构：ggml-org