返回全部动态
llama.cpp b10868 发布：新增 MoE 模型的 IQ 类型处理
原标题：b10868
AI 摘要
llama.cpp 发布 b10868 版本，主要新增对 MoE（混合专家）模型的 IQ 类型处理支持。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件，涵盖 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。此次更新旨在提升 MoE 模型在 llama.cpp 中的兼容性和性能。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> Add IQ type handling for MoE (#28476) Co-authored-by: cwriter <cwriter@localhost> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/46124981> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b10868/llama-b10868-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Inte
发布时间：2026-09-09 10:00
抓取时间：2026-09-09 10:45
来源机构：ggml-org