MiniMax 发布 M3-MXFP8 量化多模态模型
原标题:MiniMaxAI/MiniMax-M3-MXFP8
AI 摘要
MiniMax 在 Hugging Face 发布 MiniMax-M3-MXFP8,这是原生多模态模型 MiniMax-M3 的 MXFP8 量化版本,约 428B 总参数、23B 激活参数,支持 1M 上下文。该模型从训练第一步即进行混合模态训练,并引入 MiniMax Sparse Attention(MSA)提升长上下文效率,在 1M 上下文下相比 M2 实现 9 倍 prefill 和 15 倍 decode 加速,单 token 计算量降至 1/20。模型在长程 agentic 基准上达到前沿水平,擅长编程与协作,支持通过 thinking 参数切换三种推理模式,并可在 SGLang、vLLM、Transformers 上本地部署。
正文节选
--- pipeline_tag: image-text-to-text license: other license_name: minimax-community license_link: LICENSE library_name: transformers tags: - multimodal - moe - agent - coding - video base_model: - MiniMaxAI/MiniMax-M3 --- <div align="center"> <img width="60%" src="figures/logo.svg" alt="MiniMax"> </div> <hr> <p align="center"> <a href="https://agent.minimax.io/" target="_blank"><img src="https://img.shields.io/badge/MiniMax%20Code-FF6C37?style=for-the-badge&logo=minimax&logoColor