返回全部动态
llama.cpp b11573:Vulkan 后端优化 f16 FMA 打包
原标题:b11573
AI 摘要
llama.cpp 发布 b11573 版本,主要针对 Vulkan 后端进行优化:为 f16 累加打包 FMA 指令,并移除点积(dot product)算子;同时将 dot_product 重命名为 dot_product_v2,并实现每行 f16 FMA 打包两行数据。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> vulkan: pack FMA for f16 accumulation, no dot product op (#29877) * vulkan: pack FMA for f16 accumulation, no dot product op * vulkan: dot_product packs two rows per f16 FMA * vulkan: rename dot_product to dot_product_v2 </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/55086973> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11573/llama-b11573-bin-m
发布时间:2026-10-12 22:48
抓取时间:2026-10-12 23:36
来源机构:ggml-org