部署工程

llama.cpp b11926：glm5-next 支持无 kq mask 的 QSA 并加入 DSA

llama.cpp 发布 b11926 版本，主要变更是为 glm5-next 实现不带 kq mask 的 QSA，并加入 DSA 支持，其中 DSA 的 top-k mask 改动已在 DeepSeek-V3.2 的第 0、3 层上测试。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多后端预

百度开源文心Unlimited OCR 2：KV缓存降96%，支持无限页数

百度正式发布并开源文心Unlimited OCR 2，通过稀疏参考滑动窗口注意力机制（SR-SWA）和无限解码机制，将百页级文档单序列推理的峰值KV缓存从47GB降至1.77GB，减少约96%，16路并发吞吐量提升至3.65倍。模型可连续解析3600+页文档，在MarathonDocBench上取得77.06综合得分，单步解码速度达全注意力的7倍。该模型已在

OpenAI 发布 GPT-6.1 Terra：价格减半，电脑操作能力接近旗舰

OpenAI 发布 GPT-6.1 Terra 模型，标准 API 价格相比 GPT-5.6 Terra 减半（输入 1 美元/百万 Token、输出 5 美元/百万 Token），在 Agents' Last Exam、OSWorld 2.1、Terminal-Bench 4.0 等基准上表现提升，主打低成本电脑操作能力，Plus、Pro、Enterpri

另有 3 家信源报道

llama.cpp b11922：修复多序列拆分回放测试

llama.cpp 发布 b11922 版本，主要修复了多序列（multi-seq）拆分回放测试中针对已训练模型的若干问题：调整回滚快照与参考上下文的比较方式，仅比较每个序列首个回放 token，并要求 seq-1 隔离达到位精确；同时移除基于 llama model n swa() 的部分状态平坦性检查，保留 partial <= full 不变量。该版本

llama.cpp 发布 b11919：优化 OpenCL mul mat 索引

llama.cpp 发布构建版本 b11919，主要变更是优化 OpenCL 后端中 mul mat 的 id -1 索引处理（PR #31170），该改动由 Codex 辅助完成。发布同时提供 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台预编译包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、

H2O.ai 发布 H2O-Lightning-4B 决策模型

H2O.ai 发布 H2O-Lightning-4B，一个基于 Qwen3.5-4B 的 40 亿参数决策模型，可对文档、工单、政策、对话及配套图片进行带类型的决策问答，并为每个选项返回概率。模型支持选择、是/否、评分三类决策，推荐使用其定制 vLLM 构建进行双向读取，在 JevBench 231 个公开条目上答对 206 个（89.2%），在 Decis

llama.cpp b11918：OpenCL 后端初步支持 q3 k 量化

llama.cpp 发布 b11918 版本，为 OpenCL 后端首次加入对 q3 k 量化格式的支持，包含 AOS/SOA 矩阵向量乘、分块矩阵乘、Adreno 平台 noshuffle GEMM/GEMV 与 dp4a GEMM 等内核，并针对 Adreno 做了调优。该改动由高通工程师 Hongqiang Wang 参与贡献，同时发布覆盖 macOS

OrcaRouter 发布 GLM-5.3-Flash 的 MLX 量化版本

OrcaRouter 在 Hugging Face 发布了 GLM-5.3-Flash-MLX，这是智谱 zai-org/GLM-5.3-Flash 的 MLX 量化版本，面向 Apple Silicon 与 MLX CUDA 后端。原模型为 320B 总参数、18B 激活的 MoE，是 GLM-5 系列首个原生多模态模型，采用 glm5 next 混合架构

百度开源文心 Unlimited OCR 2，实现任意页数文档解析

百度发布并开源文心 Unlimited OCR 2，宣称全球首次实现任意页数文档解析，将 OCR 处理上限从数十页推向无限，并在 MPDocBench 和 MarathonDocBench 上达到端到端 SOTA。该模型采用稀疏参考滑动窗口注意力机制（SR-SWA），在百页文档场景中单步解码速度相比 Full Attention 和上一代 R-SWA 分别提

UMAS：多智能体 LLM 系统的系统级不确定性量化

研究者提出 UMAS，一个面向多智能体 LLM 系统（MAS）的系统级不确定性量化框架。该方法无需额外参数，也不增加推理成本：它根据每次生成的内在置信度估计智能体之间影响的可信度，并据此调节各节点不确定性的更新方式，再将节点级不确定性聚合为系统级估计。在 Debate 和 DyLAN 两种多智能体架构、GPT-4o mini 与 Llama 4 Scout

基于状态空间编码的线性时间上下文压缩

研究提出 Boa Compressor，一种基于 Mamba 状态空间模型的即插即用在线上下文压缩器，可在单次线性时间遍历中编码任意长度上下文，并以此条件化冻结的目标 LLM。该压缩器通过蒸馏训练，使压缩表示下的 LLM 输出分布匹配完整上下文下的教师分布。在 MRQA 基准上，同等压缩比下 Boa 匹配或超越现有最优离线压缩基线，速度提升一个数量级，并支持

Nemotron 3.5 Bolt 74B-A9B 24GB：面向本地 AI 的混合视觉语言模型

NVIDIA 在 arXiv 发布 Nemotron 3.5 Bolt 74B-A9B 24GB，一个基于 Nemotron 3.5 Super VL 120B-A12B 压缩而来的混合 Mamba-Transformer 视觉语言模型。该模型通过 Star Elastic 架构搜索、2-bit 量化感知蒸馏和 LiLiCorr 投机解码，将 BF16 模型

PinGER：基于语义ID的Token高效生成式检索

Pinterest 提出并部署了生成式检索模型 PinGER，通过交错 SID 与稠密 token、非对称注意力掩码，使模型在训练时对每个 SID 位置进行监督，而在服务时每个历史物品仅需一个 token。该方法结合目标条件生成、强化学习和前缀多样性惩罚来提升候选多样性，并配套高效宽束解码服务栈。在 Related Pins 场景上线后，新 Pin 的收藏率

Audio Flamingo 系列 GGUF 量化版发布

Hugging Face 上发布了 audio-cpp/Audio-Flamingo-GGUF 仓库，将 NVIDIA 的 Audio Flamingo 3、Audio Flamingo Next 和 Music Flamingo 打包为 GGUF 格式，供 audio.cpp 运行时使用。这些自包含文件包含模型张量、tokenizer、配置和模型规格，支持

Scion-35B-A3B：11.3GB 三值量化 MoE 模型发布

Hugging Face 用户 SkyIsNotGreen 发布了 Scion-35B-A3B，这是一个基于 empero-ai/Qwen3.8-35B-A3B-Distill 量化的 35B-A3B MoE 模型，采用三值专家库加训练校正，以 11.34 GB 的单个 GGUF 文件（2.61 bpw）供 llama.cpp 使用，比 BF16 参考小 6

Ollama 发布 v0.40.12：优化 MLX 视觉与提示速度

Ollama 发布 v0.40.12 版本，主要更新集中在 MLX 后端：保留紧凑型 Gemma 4 视觉塔的小图像细节、升级 MLX/MLX-C 版本以提升 gemma/flint/laguna 的提示处理速度、新增 DFlash2 支持，同时将 llama.cpp 升级至 b11901。这些改动属于推理框架的兼容性与性能优化。

OpenAI 发布 GPT-6.1 Terra 中端模型

OpenAI 发布 GPT-6.1 Terra，定位为快速高效的中端模型，重点强调视觉推理与精确的计算机操作能力，同时写作更清晰自然。OpenAI 的 Ted Sanders 表示，Terra 在技术沟通上优于 Astra 和 Sol，视觉与计算机使用能力相近但速度更快，其他方面略弱。其定价为每百万输入 token 1 美元、每百万输出 token 5 美元

另有 3 家信源报道

Ingot-VII-27B-Q2：Bittensor 量化竞赛获胜模型公开镜像

Hugging Face 上发布了 Ingot-VII-27B-Q2，这是 Bittensor 子网 Ingot 上获胜模型的公开镜像；该子网让矿工对固定的 Qwen3.8-27B 教师模型进行量化，验证者选出与教师最接近的副本。该模型基于 llama.cpp 的 GGUF 格式，需使用 PrismML 的 llama.cpp 分支运行，其 KL 散度和隐藏

Ingot子网获胜量化模型Ingot-VI-27B-Q2公开镜像

Hugging Face 上发布了 Ingot-VI-27B-Q2，这是 Bittensor 子网 Ingot 上获胜模型的公开镜像。该子网让矿工对固定的教师模型 Qwen/Qwen3.8-27B 进行量化，验证者选出与教师模型最接近的副本。该模型由矿工 uid 121 提交，在获胜评估中 KL 为 0.10883、隐藏状态距离为 0.3356，优于此前冠军

CyberTiel-Coder-35B-A3B 无审查量化编程模型发布

Hugging Face 用户 peculiar-ragdoll 发布了 CyberTiel-Coder-35B-A3B-GGUF-MTP，这是一个基于 Huihui-Ornith-1.5-35B-A3B-abliterated 重新量化的 35B-A3B MoE 编程模型，采用自定义 cyber 加权 imatrix 动态量化，并内置多 token 预测（