2026年初开源LLM架构综述:十大模型对比
本文回顾了2026年1月至2月期间发布的10个开源权重LLM,重点比较了它们的架构异同。主要发布包括Arcee AI的Trinity Large、Moonshot AI的Kimi K2.5、StepFun Step 3.5 Flash、Qwen3-Coder-Next、z.AI的GLM-5、MiniMax M2.5、Nanbeige 4.1 3B、Qwen
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2121 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
本文回顾了2026年1月至2月期间发布的10个开源权重LLM,重点比较了它们的架构异同。主要发布包括Arcee AI的Trinity Large、Moonshot AI的Kimi K2.5、StepFun Step 3.5 Flash、Qwen3-Coder-Next、z.AI的GLM-5、MiniMax M2.5、Nanbeige 4.1 3B、Qwen
Google DeepMind 发布 2025 年度回顾,总结其在 AI 和量子计算领域的研究突破。2025 年,Google 发布了 Gemini 2.5、Gemini 3 和 Gemini 3 Flash 等模型,提升了推理和多模态能力,并推出 Nano Banana、Veo 3.1 等生成式媒体工具。同时,Google 通过 Gemini 应用、Not
Google DeepMind 发布了 Gemma Scope 2,这是一套面向 Gemma 3 全系列模型(270M 至 27B 参数)的开源可解释性工具,旨在帮助 AI 安全社区深入理解复杂语言模型的内部行为。该工具集包含稀疏自编码器和转码器,并采用 Matryoshka 训练技术,支持对越狱、拒绝机制和思维链忠实性等行为进行分析。据称这是 AI 实验室
Hugging Face 发布了 smolagents v1.23.0,新增了对话模式 CLI、Blaxel 远程代码执行支持、指数退避重试、自定义 Python 执行器等功能,并修复了多个 bug。该版本还改进了文档翻译,并将默认推理模型改为 Qwen3-Next-80B-A3B-Thinking。
Moonshot AI 发布了 Kimi K2,这是一个具有 1 万亿总参数和 320 亿激活参数的混合专家(MoE)语言模型,专注于智能体能力。该模型在多个基准测试中表现出色,尤其在编码任务上,并提供了基础版和指令版两种变体。Kimi K2 采用 Muon 优化器进行训练,支持 128K 上下文长度,并已在 Hugging Face 上开源。
Google DeepMind 宣布推出 MedGemma 系列中的两个新开放模型:MedGemma 27B 多模态模型和 MedSigLIP 图像编码器。这些模型旨在支持医疗 AI 开发,可处理文本和图像输入,并能在单 GPU 上运行。它们基于 Gemma 3 构建,并经过医学数据优化,同时保留通用能力。开发者可下载、微调并部署到 Vertex AI,已有
Google DeepMind 正式发布 Gemma 3n,这是一款面向移动端和边缘设备的开源多模态模型,基于 MatFormer 架构,支持弹性推理和自定义模型尺寸。该模型引入了 Per-Layer Embeddings 和 KV Cache Sharing 等技术,以提升设备端性能和长输入处理效率。Gemma 3n 支持多种开发工具,并提供了预提取模型和
Hugging Face 发布了 smolagents v1.22.0,包含多项改进和修复。主要更新包括支持自定义 Dockerfile、MCP 结构化输出、Modal 远程执行器,以及修复 GPT-5 和 Grok 模型不支持 stop 参数的问题。此外,还改进了文档翻译和 CI 流程。
Mistral AI 发布了 Voxtral 语音理解模型,提供 24B 和 3B 两种规模,均采用 Apache 2.0 许可证,并可通过 API 使用。该模型支持长上下文、多语言、问答、摘要和函数调用,在转录和音频理解基准上优于 Whisper 等模型,且成本低于同类 API。
Mistral AI 与 All Hands AI 合作推出 Devstral Medium 和升级版 Devstral Small 1.1,前者在 SWE-Bench Verified 上得分 61.6%,后者得分 53.6% 且为开源模型中的新 SOTA。Devstral Small 1.1 以 Apache 2.0 协议发布,Devstral Medi
Mistral AI 宣布推出“AI for Citizens”计划,旨在帮助各国政府和公共机构战略性地利用人工智能,通过提供开放、可定制的AI解决方案,避免对封闭式大型科技供应商的依赖。该计划强调数据主权、部署选择和定制化研发,已与法国、新加坡等多国政府及机构合作。此举旨在让国家和公民掌握AI应用的主动权,促进公共服务转型和创新。
Mistral AI 发布了 Pixtral 12B,这是一个原生多模态模型,基于 Mistral Nemo 架构,并新训练了 4 亿参数的视觉编码器,支持可变图像尺寸和 128K 长上下文。该模型在 MMMU 基准上达到 52.5%,在指令跟随和多模态任务上表现优异,同时保持文本性能不妥协。模型采用 Apache 2.0 许可证,可在 La Platefo
Mistral AI 与 NVIDIA 合作发布了 12B 参数的 Mistral NeMo 模型,支持 128k 上下文窗口,在推理、世界知识和编码方面达到同类最佳水平。该模型采用 Apache 2.0 许可,支持 FP8 推理,并引入新分词器 Tekken,在多语言压缩效率上显著提升。Mistral NeMo 已可通过 HuggingFace、Mistr
Mistral AI 发布了 Mathstral,这是一个专为数学和 STEM 领域设计的新模型,基于 Mistral 7B 构建,在 MATH 基准上达到 56.6%,在 MMLU 上达到 63.47%。该模型旨在支持学术研究,与 Project Numina 合作开发,并可通过 HuggingFace 获取。Mathstral 在推理时增加计算量可显著提
Chip Huyen 分析了 900 个最受欢迎的开源 AI 工具,发现 AI 技术栈分为基础设施、模型开发和应用开发三层,其中应用开发层在 2023 年增长最快。她指出,应用开发中的 AI 工程领域(如提示工程、AI 接口、代理框架)成为热点,而模型开发层的增长主要来自推理优化。此外,她观察到中国开源生态与西方存在显著差异,且 2023 年 9 月后新工具