返回全部动态
llama.cpp b10605 发布:优化 mamba2 投影层性能
原标题:b10605
AI 摘要
llama.cpp 发布 b10605 版本,主要更新是优化了 mamba2 架构中的投影层,通过展平输入/输出投影以使用 GEMM 而非 GEMV,从而提升性能。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> mamba2 : Flatten in/out projections to dispatch GEMM instead of GEMV (#27513) * mamba2 : flatten mamba2 in/out projections to dispatch gemm instead of gemv * mamba2 : remove redundant output reshape </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/42533776> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b10605/llama-b10605-bin-macos-arm64.tar.gz) - ma
发布时间:2026-08-24 16:57
抓取时间:2026-08-24 17:11
来源机构:ggml-org