部署工程

英伟达、Pika基于MiniMax H3开源模型二次研发

英伟达相关技术团队和Pika基于MiniMax开源的视频模型H3开展二次研发，分别推出视频增强项目Open-H3-Regenerate-2K和Pika H3 Flex，且涉及与MiniMax的授权合作。H3于今年8月开源，下载量已超2400万次并产生300多个衍生模型，其社区许可协议对年收入超2000万美元的商业使用及美欧英韩地区保留单独授权要求。文章认为这

我们能否准确衡量开放模型推理份额？

Interconnects AI 作者介绍了其维护的 Interconnects Dashboard，用于汇总开放模型采用与性能数据，并指出当前所有开放模型采用指标都极不精确。文章以 Baseten、Fireworks、Together AI 等开放模型推理初创公司及 OpenRouter 的 token 份额作为风向标，探讨开放模型推理市场是否在增长、是否

生产级 AI 智能体的四层上下文工程：Deep Insight 代码实践

AWS Machine Learning Blog 介绍 Deep Insight 如何将上下文工程分为四层：多智能体架构隔离上下文、提示词控制输出、文件系统外化重内容、独立验证智能体兜底。Deep Insight 是基于 Strands Agents SDK 和 Amazon Bedrock AgentCore 的开源多智能体数据分析方案，其参考实现显示写

Qwen3.6-35B 无审查 Genesis Hermes GGUF 模型发布

独立开发者 LuffyTheFox 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-GGUF 模型，该模型基于 HauhauCS 的无审查 Qwen3.6 MoE 基座，并迁移了 Hermes 智能体微调数据。作者提出名为 Genesis 的后训练张量校准方法，声称利用 Marchenk

用 NVIDIA NeMo 将智能体失败转化为测试并修复

NVIDIA 发布技术博客，介绍如何用 NVIDIA NeMo 工具链把智能体在生产环境中的失败案例转化为测试用例并修复。流程包括用 NeMo Compass 分析 42 条 Hermes 智能体轨迹，发现其在未获用户确认时调用 send message 工具的问题；再用 NeMo Eval Author 生成 Harbor 评估与验证器复现该失败；最后修改

Anthropic 发布 FlashProve：用密码学证明 AI 回复来源而不暴露权重

Anthropic 发布开源研究原型 FlashProve，利用 zkSNARK 密码学技术验证 AI 回复是否确实由声称的模型生成，且不暴露模型权重。该系统在单张 H100 上为 Llama 4 Maverick 生成证明的速度约为每秒 110 个 token，每个证明约 19MB，验证耗时 17 秒，相比此前同类开源系统有数量级提升。Anthropic

另有 1 家信源报道

llama.cpp v0.9.0 发布：FP8 量化与多序列 KV 优化

llama.cpp 发布 v0.9.0，新增 OCP FP8 E4M3 量化支持、提升多序列推理统一 KV 缓存效率的 flash attn ext rows 算子，以及通用批量张量拷贝 API。该版本新增 Clover、Limite、Metis-1.6、Mistral Large 4 四种架构支持，扩展 Chatterbox TTS、Nemotron 3.

llama.cpp 发布 b12110，版本号升至 0.9.0

llama.cpp 发布 b12110 版本，将版本号提升至 0.9.0 并更新作者信息。该版本提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，包含 CUDA、Vulkan、ROCm、OpenVINO、SYCL 等多种后端，以及面向骁龙平台的 CPU/GPU/NPU 构建。

llama.cpp 发布 b12109 版本：同步 ggml 并更新多平台构建

llama.cpp 发布 b12109 版本，本次更新仅包含与 ggml 的同步（sync : ggml）。该版本为 macOS、iOS、Linux、Android、Windows 及 openEuler 等多个平台提供预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL 等多种后端，并附带 UI 包。此次发布属于

llama.cpp b12102：ggml 视图按 stride 实际字节做边界检查

llama.cpp 发布 b12102 版本，核心改动在 ggml 后端：视图（view）的边界检查改为按 stride 实际触及的字节数计算，修复了行重叠视图被误判、宽 stride 视图越界却通过检查的问题；同时要求带 stride 的视图起始元素在 dim 0 上连续。delta net 的卷积窗口改为一次性按全部行创建。该版本同步提供 macOS、L

llama.cpp b12101：GGUF 写入器直接写 host-buffer 张量数据

llama.cpp 发布 b12101 版本，核心改动在 ggml 的 GGUF 写入器：对 host-buffer 张量跳过临时向量暂存，直接将数据写入文件，省去逐张量的内存分配、零初始化和 memcpy。该版本同时提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL 等后端构建产物。改动可降

严骏驰团队提出 JTok 与 xHC 两条 Transformer 扩展思路

上海交通大学教授严骏驰在 CNCC 2026 演讲中介绍了两项 Transformer 架构改进工作：JTok 为每个 token 引入可学习参数表，通过查表和逐元素运算调制前馈网络更新；xHC 扩展残差流至十六路，采用稠密读取、稀疏写回降低计算代价。实验显示 JTok-M 在同等损失下节省约 35% 训练算力，xHC 相对标准 Transformer 节省

Dify v1.19.0：嵌套工作流追踪与可移植 Workflow Tools

Dify 发布 v1.19.0，为外部可观测性工具新增嵌套工作流追踪，可下钻到 Workflow Tool 内部执行步骤及 LLM 调用上下文。该版本还支持 Workflow Tools 随 App 包导出导入、新增 Skill Hub 自动化与 difyctl 技能管理命令，并改进 Agent 文件批量上传与预览。升级需 Docker Compose v2

llama.cpp b12099：Hexagon 后端新增 LIGHTNING INDEXER 支持

llama.cpp 发布 b12099 版本，为 Hexagon 后端新增 LIGHTNING INDEXER 算子支持，覆盖 HMX 预填充路径、q8 0 与 q4 0 量化格式的解码 gather-transpose、DMA 双缓冲流水线，并加入 GGML HEXAGON LI SELECT 开关以强制选择 HMX/HVX 路径。该改动由高通工程师参与提

大型推理模型早停方法综述与效率可靠性实证审计

该论文对大型推理模型（LRM）的早停方法进行了综述与实证审计，在五个推理模型上覆盖数学、科学推理、代码生成和事实性任务，采用共享 rollout 重放协议评估。作者提出 Target-Integrated Token Efficiency（TITE）指标衡量相对 oracle 的效率，并发现后续位置的正确率可能低于解码噪声模型预测，强制终止后模型仍会继续推理

子空间节点剪枝：基于正交子空间投影的免重训练网络压缩

该论文提出 Subspace Node Pruning（SNP），一种无需重训练的神经网络结构化剪枝方法。作者证明激活类、Fisher 类等多种重要性度量共享同一二次型，通过下三角基变换构造剪枝子空间，并用线性最小二乘同时补偿被剪节点的影响；对层激活做正交化后，各节点重要性分数解耦可加，从而支持层内多节点同时剪枝而不互相干扰。在 ImageNet 上 VGG

面向最优多草稿投机解码

该论文研究多草稿投机解码（MDSD）的最优接受率问题。作者利用最优传输问题的对偶形式，将最优接受率计算转化为子集选择问题，首次在词表规模达数千的真实场景下计算了MDSD效率的理论上界，并量化了现有验证算法与该上界的差距。研究发现草稿采样方法显著影响最优接受率，条件泊松采样（CPS）优于有放回采样，且现有验证算法在有放回采样下未达到理论最优。

AI股票分析何时值得刷新？有限研究预算的分配策略

该论文研究多智能体AI投资研究平台在有限算力预算下如何分配研究资源，基于203只股票、8120份生产报告的数据，比较了价格更新、机械路径重置和深度刷新三种策略。结果显示，在3个月持有窗口内，带波动保护的旧目标价复用策略平均收益2.25%，高于SPY的1.66%，且无需新增推理成本；但延长至近6个月不刷新则降至-11.26%，而深度刷新报告为+9.12%。研究

Vectorium 与 kANNolo：模块化高效 ANN 搜索库

研究者提出两个开源 Rust 库 Vectorium 和 kANNolo，将近似最近邻（ANN）搜索的设计空间拆分为数据管理层与索引层。Vectorium 独立抽象向量、距离函数、量化器和数据集，提供 11 种编码器；kANNolo 在其上实现泛型化的 HNSW 与 IVF 索引及两阶段索引。作者称编译期特化使模块化不带来运行时开销，在稠密数据 12 个集合

投机解码引擎中处理器契约的测试

论文提出 Badc（分支感知差分一致性测试）方法，用于检验投机解码引擎中 logits processor 是否遵守「处理器-前缀契约」。作者在 5 个固定版本的 Transformers 和 llama-cpp-python 构建上测试了 26 种配置，确认两类缺陷：处理器读取未验证的草稿 token，以及状态推进后不回滚。在一个训练好的 checkpoi