返回全部动态
llama.cpp b11912:为 Laguna 启用 MoE amax 重缩放
原标题:b11912
AI 摘要
llama.cpp 发布 b11912 版本,核心变更为为 Laguna 模型启用 MoE amax 重缩放(PR #31147),并声明对 Laguna SM 张量的支持。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了 llama.cpp 对 MoE 架构模型的推理支持与硬件适配范围。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> llama : enable moe amax rescaling for laguna (#31147) * llama : enable moe amax rescaling for laguna Assisted-by: Devin * llama : declare laguna sm tensor support </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/60129010> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11912/llama-b11912-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI
发布时间:2026-10-27 06:30
抓取时间:2026-10-27 07:31
来源机构:ggml-org