部署工程

miceworks 发布 Mark-SLM-V3-150M 稀疏语言模型

研究者 miceworks 在 Hugging Face 发布 Mark-SLM-V3-150M，一个 150M 参数、基于 deepseek2 架构的稀疏语言模型，采用 MLA 与细粒度 MoE，并导出为 IQ4 NL 量化的 GGUF 文件。模型在 3.47M token 的课程数据上训练，在 Open SLM Leaderboard 上取得 16.36

Qwen3.8 Flash CIRU Strix Orca v6.0.0 运行时更新

OrcaRouter 将 Qwen3.8 Flash 研究检查点转换为紧凑专家格式，并发布适配 AMD Strix Halo 与 CIRU v5 运行时的 GGUF 版本。v6.0.0 运行时修复了长提示中图像输入失效的问题，多槽位服务速度提升数倍，并支持可选的磁盘提示缓存；模型权重、草稿模型与投影器均未改动。

Ornith-1.5-35B-A3B 去审查版 ICE GGUF 量化发布

开发者 gbuzhf 在 Hugging Face 发布了 Ornith-1.5-35B-A3B 的 GGUF 量化版本，基于 huihui-ai 的 abliterated（去拒答）检查点，采用 Sangreal 重要性矩阵与 ICE 1.6/2.0 量化配方，提供 12G 至 25G 五档文件并保留 MTP 草稿层。作者给出各档相对 BF16 的 KL

英伟达发布 Nemotron-3.5-Super-VL-120B NVFP4 量化模型

NVIDIA 在 Hugging Face 发布 Nemotron-3.5-Super-VL-120B-A12B-NVFP4，这是其视觉语言模型 Nemotron 3.5 Super VL 的 NVFP4 量化版本，通过量化感知蒸馏从 BF16 版本压缩而来，以降低显存需求。模型采用 Mamba-2、MoE 与注意力混合架构，搭配 C-RADIO 视觉编码器

llama.cpp 发布 b12255：修复 plamo2 循环缓存张量重命名

llama.cpp 发布构建版本 b12255，主要变更是修复 plamo2 模型中循环缓存张量被重命名的问题（#31984）。该版本同时提供 macOS/iOS、Linux（含 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端）、Android、Windows 及 UI 等多平台预编译包。

NaiveAI 宣称每秒 2100 tokens，编码能力实测如何？

Latent Space 评测了中国公司 NaiveAI 推出的开源权重模型 Naive-N0.5-Flash，该模型基于小米 MiMo-V2.5 继续训练并适配 DeepSeek 稀疏注意力，主打高速生成（宣称约 2100 tokens/秒）。在 30 道不同难度题目的测试中，其吞吐接近或超过 1000 tokens/秒，中位响应时间 3.1 秒快于 De

Trovata 基于 Amazon Bedrock 与 AgentCore 构建自主财务代理

Trovata 是一家 AI 原生的现金与流动性管理平台，直连超过 1 万家银行。该公司在 Amazon Bedrock 和 Amazon Bedrock AgentCore 上构建了自主财务代理，从 2023 年面向财务场景的生成式 AI 演进为可自主执行任务的智能体工作流。方案包含自然语言查询、AI 洞察、按计划或规则持续运行的 AI Agents，以及

Vercel AI SDK 6.0.328 修复遥测敏感信息泄露

Vercel AI SDK 发布 ai@6.0.328 补丁版本，主要修复了 generateText 和 streamText 遥测中记录工具定义时的敏感信息泄露问题：对 OpenAI MCP 的授权与请求头值，以及 Code Interpreter 和 shell 的域密钥值进行脱敏，同时保留原始应用与提供商参数。此外同步更新了 @ai-sdk/prov

openEuler预告Agentic Infra操作系统新方案

openEuler在Agentic Infra操作系统大会媒体预沟通会上预告，将发布面向Agentic Infra的技术突破及超节点落地进展，覆盖Agent可观测与安全治理、极速沙箱、智能体记忆系统和KV Cache优化。社区执行总监刘飞表示，智能体基础设施需同时解决启动速度、并发密度和任务生命周期问题，openEuler从文件系统、内存管理和安全机制等操作

阿里确认分拆平头哥冲刺港股IPO 已递交上市申请

阿里巴巴宣布已向香港联交所递交申请，拟分拆旗下全资芯片子公司平头哥独立在主板上市，外媒传募资规模或达20亿至30亿美元。平头哥成立于2018年，已布局真武AI芯片、倚天CPU等算存网全栈产品，真武系列累计出货56万片、服务超650家企业。分拆旨在让市场独立评估平头哥价值并拓宽其融资渠道，尚需联交所批准及证监会备案。

另有 1 家信源报道

llama.cpp b12249：ggml-rpc 连接失败不再崩溃

llama.cpp 发布 b12249 版本，修复 ggml-rpc 在端点不可达或 HELLO 握手失败时直接 GGML ABORT 终止整个进程的问题，改为 start() 返回 bool、get dispatcher() 返回 nullptr 并让各调用方按保守行为处理。该问题源于 Android 上 llama.rn 手机 RPC 集群中不可达 wo

Amazon Bedrock 调用日志可观测性数据湖方案

AWS 博客介绍了一套面向 Amazon Bedrock 的集中式可观测性数据湖方案。该方案通过 CloudWatch 日志订阅过滤器将各账号的模型调用日志汇聚到中心账号，经 Lambda 清洗、Firehose 转 Parquet 写入 S3，最终用 Athena 统一查询。它让平台和 ML 工程师能查看每次调用的提示词、响应、token 用量、模型和 I

DSPy 3.5 发布：更轻更快的 LM 基础层

DSPy 发布 3.5.0 版本，将 RLM、Flex、GEPA 从实验模块转为正式核心模块，ReActV2 取代 ReAct，并默认启用 XMLAdapter 与自动 API 路由。该版本引入轻量 lm15 引擎，使 LiteLLM 和 OpenAI Python 库变为可选依赖，默认安装体积从 206.7 MiB 降至 30.9 MiB，依赖数从 65

llama.cpp b12248：Vulkan GROUP NORM 工作组改为二维以规避限制

llama.cpp 发布 b12248 版本，主要修复 Vulkan 后端 GROUP NORM 计算的工作组划分问题：将工作组划分为二维，以规避 maxComputeWorkGroupCount 限制，并改用已有宏实现。该版本同时提供 macOS、Linux、Windows、Android 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、Op

NVIDIA 发布车载边缘推理驾驶模型 Alpamayo 2 Edge

NVIDIA 发布 Alpamayo 2 Edge，一款面向车载实时运行的自适应推理视觉-语言-动作（VLA）模型，基于 2B Nemotron 推理骨干与扩散动作专家，可在 NVIDIA DRIVE AGX Thor 上运行。该模型通过自适应推理、离线蒸馏、AlpaGym 闭环强化学习后训练及 DFlash2 投机解码等优化，在闭环驾驶性能上较最佳基线提升

Google 推出两款专用 AI 芯片，扩展硬件组合

Google 发布第八代 TPU 的两款新变体 TPU 8tx 和 TPU 8i Max，分别面向机密推理和更大内存容量的大规模工作负载。TPU 8tx 与 AMD 合作设计，将安全能力内置于硬件层，并支持在训练同时进行推理以在线蒸馏小模型；TPU 8i Max 则将两颗推理芯片整合进单一封装，使内存、算力和带宽翻倍。此举旨在降低 Google 云业务对外部

llama.cpp b12247：修复 MoltenVK 越界读写

llama.cpp 发布 b12247 版本，主要修复 Vulkan 后端在 MoltenVK 上的越界读写问题，通过为 norm f32、l2 norm f32 和 sum rows f32 的管线设置 disable robustness，解决 test-backend-ops 的 sentinel 不匹配错误。该版本同时提供 macOS、Linux、W

NVIDIA 开源 Snapshot：GPU 工作负载秒级启动与恢复

NVIDIA 发布开源组件 NVIDIA Snapshot，作为 DSX AI Factory 平台的一部分，为 Kubernetes 上的 GPU 工作负载提供检查点与恢复能力。它可将已初始化的推理工作负载（含 CPU 与 GPU 内存状态）保存为可移植产物，并在同型号 GPU 节点上秒级恢复，跳过权重加载、编译与图捕获等冷启动步骤。在 vLLM、SGLa

社区发布 Molmo2-8B INT8 量化包，作 MiniMax H3 编码器

开发者 Alissonerdx 在 Hugging Face 发布社区量化包，将 allenai 的 Molmo2-8B 量化为 INT8 ConvRot 权重（约 9.29GB），作为实验性的 MiniMax H3 文本/视觉编码器，并提供 MolmoPoint-8B 点跟踪模型用于视频分割。该包非 Ai2 或 MiniMax 官方发布，需使用自带 loa

Langfuse v4.78.0 发布：新增 RBAC、外部评估分发与 AI Gateway 增强

Langfuse 发布 v4.78.0，主要新增 RBAC 成员关系镜像与 USER API key 作用域、外部 HTTP 代码评估分发器、AI Gateway 全环境支持 Bedrock 与自定义模型、Topics 追踪过滤与规则地图夜间重拟合等能力，并修复 AI Gateway、评分、查询 AST 等多处问题。该版本为开源 LLM 可观测与评估平台的功