部署工程

Amazon Bedrock 为 Kimi K3 推出印度境内推理

AWS 在 Amazon Bedrock 上为 Moonshot AI 的开放权重多模态模型 Kimi K3 新增印度境内推理选项，通过 in.moonshotai.kimi-k3 推理配置文件将请求限定在孟买和海得拉巴区域处理，满足严格的数据驻留要求。文章介绍了全球与地理推理配置的区别，并给出使用 OpenAI 兼容 API 对印地语等印度语言文档做 OC

MiniCPM-V-Apps GGUF 模型文件仓库发布

Hugging Face 上出现 tc-mb/MiniCPM-V-Apps-gguf 仓库，为 OpenBMB 的 MiniCPM-V-Apps 应用分发 GGUF 格式模型文件。仓库包含 MiniCPM-OCR-1.0 的 OCR 文本塔、4x 视觉投影器和 PP-DocLayoutV3 版面检测 ONNX 文件，以及 MiniCPM-V 4.7 的 1B

ViuAI 开源 500M 参数 DPO 对齐小模型 Sarus-500M

ViuAI Research 发布并开源了 ViuAI Sarus-500M，这是一个从零训练、经 SFT 与 DPO 对齐的 4.95 亿参数小型语言模型，采用 GQA、RoPE、RMSNorm 等架构，上下文长度 2048，模型体积约 944MB。该模型面向边缘设备和 CPU/GPU 轻量部署，提供 Apache-2.0 许可及免 transformer

llama.cpp 发布 b12074：重构 delta net 卷积状态

llama.cpp 发布 b12074 版本，主要变更是对 delta net base 的卷积状态进行重构：改为通过视图访问卷积状态，修复 sm tensor，并将卷积窗口的回滚槽位索引改为在主机端填充的 I32 输入，替代原先在设备端计算的 arange 与 argsort，同时 meta 后端不再需要为 ARANGE 做镜像拆分。该版本同步提供 mac

苹果财报会45次提及AI：靠设备与抽成获利，不拼基建投入

苹果在最新财报电话会上45次提及AI，强调其不依赖大规模基础设施投入的AI策略：通过设备销售、App Store订阅抽成及未来对自家AI功能收费来获利。苹果上季度资本支出仅22亿美元，远低于亚马逊和Alphabet，同时Siri AI采用谷歌Gemini技术并计划允许用户选择外部AI提供商。Gap和佳士得等企业已在Mac Mini和Mac Studio上本地

llama.cpp 发布 b12072：移除注意力掩码冗余 cnv

llama.cpp 发布 b12072 版本，核心改动是移除 llm attn mask 中冗余的 cnv，将 dspark 块掩码改为在输入填充阶段由 llm attn mask::block uniform 生成，从而消除 dflash 中的图级 reshape/repeat 操作。该版本同时提供 macOS、Linux、Windows、Android

LiquidAI 发布 LFM3-VL-2B GGUF 量化版本

LiquidAI 在 Hugging Face 发布 LFM3-VL-2B 的 GGUF 量化版本，支持在 CPU 和 GPU 上本地推理，可通过 Llama.app、LM Studio 和 Ollama 运行。该仓库还包含基于 NVIDIA Model Optimizer 量化的 NVFP4 版本，在 Blackwell GPU 上使用 FP4 张量核心，

Liquid AI 发布 LFM3-1.7B GGUF 本地推理版本

Liquid AI 在 Hugging Face 发布 LFM3-1.7B 的 GGUF 量化版本，供用户在 CPU 和 GPU 上本地推理。该版本支持 llama.cpp、LM Studio、Ollama 和 Llama.app 等工具，并额外提供基于 NVIDIA Model Optimizer 量化的 NVFP4 版本，可在 Blackwell 架构

Langfuse 发布 v4.74.0：新增网关速率限制与审计日志

Langfuse 发布 v4.74.0 版本，主要新增 AI Gateway 按组织维度的请求与字节速率限制、审计日志记录支持访问读取、Admin API 支持项目跨组织转移，并合并 Topics schema 迁移。修复方面隐藏已关停的 OpenAI 与退役的 Anthropic 模型、调整 Web 端横幅展示等。该版本属于开源 LLM 可观测性平台的功能

蚂蚁灵波携全栈开源机器人通用大脑亮相乌镇

蚂蚁集团旗下具身智能公司蚂蚁灵波在2026年世界互联网大会乌镇峰会上展示了全栈开源的机器人通用大脑。其LingBot系列模型开源9个月下载量突破220万、GitHub Star超3.3万，并被斯坦福、洛桑联邦理工等机构复用，同时适配LeRobot、timm、vLLM、SGLang等工具链。灵波还与国大药房落地机器人智慧药房并已在上海多家门店常态化运营，并拓展

Anthropic 推出 Message Threads，长对话首 token 时间缩短 35%

Anthropic 在 Claude 平台公测 Message Threads 功能，改变此前每次 API 请求需重发完整对话历史的方式，仅传输上次消息以来的增量内容。据 Anthropic 称，在 50 万至 100 万 token 的请求中，该功能将首 token 时间缩短约 35%。编码智能体、计算机使用智能体和处理大量文档或图像的工作流受益最大；线程

Langfuse v4.73.0 发布：AI Gateway 功能增强与多项修复

Langfuse 发布 v4.73.0 版本，主要围绕 AI Gateway 推出一系列功能更新，包括按用户和 API 密钥筛选网关分析、新增 AI GATEWAY 组织角色与成员邀请、GitHub Copilot CLI 接入指引、HIPAA 合规提示、密钥排序与使用说明等。同时修复了 ClickHouse 迁移、Prisma 读取重试、网关密钥权限校验、

llama.cpp b12069：OpenCL 后端新增 iq4 xs 量化支持

llama.cpp 发布 b12069 版本，为 OpenCL 后端新增 iq4 xs 量化格式的初步支持，涵盖 AOS/SOA mv、tiled mm、Adreno 平台的 noshuffle gemm/gemv 与 dp4a 实现，并优化了 Adreno 解码与小批量场景。该改动由高通工程师参与贡献，部分代码由 Codex 辅助生成，可提升骁龙 Adre

llama.cpp 发布 b12068：chat 支持 gpt-oss 最终 channel 后约束类型

llama.cpp 发布 b12068 版本，主要变更是 chat 功能允许在 gpt-oss 最终 channel 之后指定约束类型（constraint type），对应 PR #31556。该版本同时提供 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、S

FunASR ONNX runtime 发布 v0.4.6

阿里 FunASR 发布 funasr-onnx 0.4.6 独立版本，包含已合并的 PR #3831 修复，解决离线 FSMN-VAD 多输入调用问题，使每个输入波形独立打分并返回各自结果。该版本仍接受请求的批量大小，但有效模型批量保持为 1。验证覆盖 74 个 CPU 用例和 42 个 L20Z FP32 合成契约用例，未声称覆盖预训练模型质量、Wind

英特尔与腾讯云发布至强6+云实例，优化Agent高密度部署

在腾讯全球数字生态大会上，英特尔与腾讯云联合发布基于至强6+处理器的新一代云实例，综合性能较上一代提升30%以上。该处理器最高集成288个能效核，单颗可支持超过1000个智能体稳定运行。双方还围绕内存压缩（采用IAA加速器）和沙箱创建效率（CubeSandbox）进行软硬件协同优化，以应对Agent高密度部署时内存容量和启动时延的瓶颈。腾讯云计划继续与英特尔

另有 1 家信源报道

llama.cpp b12066：WebGPU 新增 ARANGE 支持

llama.cpp 发布构建版本 b12066，主要变更为在 WebGPU 后端新增 ARANGE 算子支持（PR #31455）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL 等后端。此次更新属于开源推理框架的常规迭代，扩展

llama.cpp b12065：修复 kv-cache 零 kv rows 问题

llama.cpp 发布 b12065 版本，修复了 kv-cache 的一个缺陷：当某个缓存共享另一个缓存的 cell（例如 gemma4 assistant 场景）且其序列尚未分配任何 cell 时（如服务器预热阶段），get n kv rows() 会返回 0，导致计算图回退到稠密 KQ mask 并触发调度器重新规划；后续使用更大 mask 的计算图

NVIDIA 携手全球城市部署物理 AI 与智能体 AI 服务

NVIDIA 与全球合作伙伴将物理 AI 和智能体 AI 扩展到城市服务场景，覆盖西班牙、旧金山湾区、波兰、马来西亚等地，用于居民服务、视频分析和交通管理。方案基于 NVIDIA Cosmos、Nemotron、Omniverse 和 Metropolis 等模型与库，并借助 RTX PRO GPU 和共享算力基础设施降低城市部署门槛。数字孪生还被用于炼油厂

Liquid AI 发布端侧模型 LFM2.5-8B-A1B

Liquid AI 发布 LFM2.5-8B-A1B，一款面向端侧部署的混合架构文本生成模型，总参数 8.3B、激活参数 1.5B，经 38 万亿 token 预训练与强化学习调优，支持 128K 上下文和 10 种语言。该模型主打设备端个人助理、工具调用与智能体工作流，官方称其吞吐量在同尺寸中领先，并首日支持 llama.cpp、MLX、vLLM、SGLa