返回全部动态
llama.cpp b10437 发布:新增 MiniMax-Text-01 和 M1 模型支持
原标题:b10437
AI 摘要
llama.cpp 发布 b10437 版本,新增对 MiniMax-Text-01 和 MiniMax-M1 模型的支持,包括模型转换、推理优化和 Jinja 模板。该版本通过 token 抑制替代 logits mask 解决零嵌入问题,并优化了循环状态管理。同时提供了多平台二进制下载,但部分平台构建被禁用。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> model : add support for MiniMaxText01ForCausalLM and MiniMaxM1ForCausalLM (#27018) * llama : support for MiniMax-Text-01 model * chore : renames to match the other MiniMax models * model : add logits mask as MiniMax-Text-01 embeddings tensor has zero-valued embeddings for tokens >= 200032 that produce zero logits disrupting the token sampling process * llama : replace hardcoded conditions with hparams.is_recr() * model : used build_rs() for recurrent state management * chor
发布时间:2026-08-15 13:24
抓取时间:2026-08-15 14:11
来源机构:ggml-org