返回全部动态

llama.cpp b11912:为 Laguna 启用 MoE amax 重缩放

原标题:b11912

llama.cpp Releases一手来源开源质量 63

AI 摘要

llama.cpp 发布 b11912 版本,核心变更为为 Laguna 模型启用 MoE amax 重缩放(PR #31147),并声明对 Laguna SM 张量的支持。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了 llama.cpp 对 MoE 架构模型的推理支持与硬件适配范围。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> llama : enable moe amax rescaling for laguna (#31147) * llama : enable moe amax rescaling for laguna Assisted-by: Devin * llama : declare laguna sm tensor support </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/60129010> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11912/llama-b11912-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI


发布时间:2026-10-27 06:30
抓取时间:2026-10-27 07:31
来源机构:ggml-org
阅读原文github.com