返回全部动态
llama.cpp b10673 发布:新增 Apple M4 调优支持
原标题:b10673
AI 摘要
llama.cpp 发布 b10673 版本,为 Apple M4 芯片添加了 fa-vec 调优记录,支持 F16、Q4_0、Q4_1、Q5_0、Q5_1 和 Q8_0 等量化格式,以优化 M4 上的推理性能。该版本同时提供了适用于 macOS、Linux、Windows、Android 和 iOS 的多种预编译二进制文件,涵盖 CPU、Vulkan、CUDA、ROCm 等后端。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> metal : add fa-vec tunings for M4 (#27875) This adds fa_vec_tuned_table records for Apple M4 to ggml-metal-tuning.cpp. Includes F16, Q4_0, Q4_1, Q5_0, Q5_1, and Q8_0. (M4, 10 GPU Cores) Co-authored-by: Strongtut <8432058+Strongtut@users.noreply.github.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/43677301> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/release
发布时间:2026-08-28 22:30
抓取时间:2026-08-28 23:14
来源机构:ggml-org