返回全部动态

llama.cpp b10605 发布:优化 mamba2 投影层性能

原标题:b10605

llama.cpp Releases一手来源产品发布质量 67

AI 摘要

llama.cpp 发布 b10605 版本,主要更新是优化了 mamba2 架构中的投影层,通过展平输入/输出投影以使用 GEMM 而非 GEMV,从而提升性能。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> mamba2 : Flatten in/out projections to dispatch GEMM instead of GEMV (#27513) * mamba2 : flatten mamba2 in/out projections to dispatch gemm instead of gemv * mamba2 : remove redundant output reshape </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/42533776> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b10605/llama-b10605-bin-macos-arm64.tar.gz) - ma


发布时间:2026-08-24 16:57
抓取时间:2026-08-24 17:11
来源机构:ggml-org
阅读原文github.com