Mistral 发布 1T 参数多模态 MoE 模型 Mistral Large 4
原标题:mistralai/Mistral-Large-4-1T-A52B
AI 摘要
Mistral AI 发布 Mistral Large 4(代号 Le Chonk),这是一个总参数约 1 万亿、每 token 激活约 520 亿参数的原生多模态 MoE 模型,在 Mistral 位于欧洲的自有数据中心用 3800 块 NVIDIA Grace Blackwell GPU 从零训练。模型支持 100 万 token 上下文、160 多种语言、可配置推理强度与原生函数调用,在视觉定位、编程和网络安全等任务上表现突出。模型以修改版 MIT 的 Mistral 生态开放权重许可证发布,同时上线 Mistral API,并提供 NVFP4 量化版本。
正文节选
--- license: other language: - en - fr - de - es - pt - it - ja - ko - ru - zh - ar - fa - id - ms - ne - pl - ro - sr - sv - tr - uk - vi - hi - bn - bg - hr - cs - da - nl - et - fi - el - hu - ga - lv - lt - mt - sk - sl tags: - vLLM - SGLang - transformers - llama.cpp --- # Mistral Large 4 - Le Chonk Mistral Large 4 is our largest and most capable model to date: a 1 trillion-parameter natively multimodal Mixture-of-Experts model with 49 billion active parameters per token (52 billion inclu