返回全部动态
llama.cpp b11398:x86 tinyBLAS 支持 BF16/FP16/FP32 K 尾部
原标题:b11398
AI 摘要
llama.cpp 发布 b11398 版本,主要更新是在 x86 平台的 tinyBLAS 中为 ggml-cpu 增加对 BF16/FP16/FP32 K 尾部的支持,并对其进行向量化优化。同时调整测试逻辑,在启用 use_ref 时跳过 tinyBLAS,使 CPU 测试改为与 vec_dot 路径对比。该版本照例提供 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> ggml-cpu: support BF16/FP16/FP32 K tails in tinyBLAS on x86 (#29806) * ggml-cpu: vectorize BF16 K tails in tinyBLAS * tests: Skip tinyBLAS when use_ref is enabled so CPU tests compare against the vec_dot path. * ggml-cpu: vectorize tinyBLAS F16/F32 tails </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/52638584> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/
发布时间:2026-10-05 04:04
抓取时间:2026-10-05 04:49
来源机构:ggml-org