部署工程

llama.cpp b10369 发布：支持 pocket-tts 并优化性能

llama.cpp 发布 b10369 版本，主要更新是支持 pocket-tts 文本到语音模型。该实现将转置卷积重构为 GEMM 加 col2im，使 CUDA 上每帧生成时间降低 80%，CPU 上降低 50%，输出与参考实现高度一致。同时新增了语言包特定参数（如帧尾填充、短文本填充）和模型变体支持，并更新了文档。

多语言量化税：边缘小型语言模型的结构性崩溃与类型脆弱性

本研究首次对4-bit量化在Gemma 4和Qwen 3.5等小型语言模型上的多语言性能损失进行了零样本评估，覆盖八种类型多样的语言。研究发现量化税在不同语言间极不平等，低资源和非拉丁文字语言出现结构性崩溃，而模型的基础语言（如英语、中文）也缺乏免疫性。多步逻辑推理受损严重，但联想记忆领域表现出量化抵抗性。

CurveFP：用于语言模型的封闭乘积有理基数对数数据类型

CurveFP 是一种新的低精度数据类型家族，通过交错对数曲线和紧凑块缩放实现封闭乘积，使乘法变为精确的符号异或和整数索引更新。CurveFP8 用于训练，CurveFP7 用于部署，在多个 7B-9B 模型上以更少的位达到或超过 FP8 的困惑度，并在 128.3M 参数预训练中实现 FP8 级质量，同时降低格式引起的惩罚。

LLM Agents Factory：领域特定 LLM 代理的检索框架

LLM Agents Factory 是一个基于检索的框架，利用超过 20K 个预定义代理配置文件，按需构建领域特定且基于 Wikipedia 的代理。该框架支持语义搜索检索和蒸馏两种模式，在 MMLU、BIG-bench 等基准测试中，其检索式代理构建在准确率上超越非代理基线，并以更低推理成本匹配 AutoGen 的生成质量。该研究将代理构建视为信息检索问

ms-swift v4.4.3 发布：修复多模型模板并新增训练特性

魔搭 ms-swift 发布 v4.4.3 补丁版本，包含多项 bug 修复和功能更新。主要修复了 Qwen3.5、Qwen3-TTS、Qwen3-Omni 等模型的模板和训练问题，新增了 packing strategy、GKD 多轮支持、RLSD 自蒸馏优势重加权等功能，并优化了 Megatron、NPU 等后端兼容性。该版本提升了框架的稳定性和训练效率

llama.cpp b10362 发布：修复 HIP 采样器测试并更新多平台构建

llama.cpp 发布 b10362 版本，主要修复了 HIP 后端采样器测试中因缺少 CUB 支持而导致的崩溃问题，并调整了 CI 日志存储方式。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。

研究者从专有LLM API中窃取推理痕迹

研究者发现Anthropic、OpenAI和Google的专有LLM API返回的加密推理链可被重放至同系列较弱模型，通过越狱恢复明文推理内容。该漏洞已被修复，但论文附录展示了提取的推理细节，揭示了专有模型的思维链。

NVIDIA JetPack 7.2.1 新增 Agentic 视频技能与 PyNvVideoCodec 支持

NVIDIA 发布 JetPack 7.2.1，首次在 Jetson 平台支持 PyNvVideoCodec 2.2，提供硬件加速视频编解码的 Python 接口，并引入基于 agent 的视频技能，帮助开发者自动配置、验证和基准测试编解码流程。该版本旨在加速 Jetson 上的 AI 应用开发，提升视频处理管线的效率和可复现性。

窃取专有LLM API的推理痕迹

研究人员发现，Anthropic、OpenAI 和 Google 等大型语言模型提供商返回给客户端的加密推理痕迹块在不同会话、用户和模型间可互换，存在架构漏洞。通过将该痕迹注入同一提供商的较弱模型中，可强制其解码并输出明文，从而绕过反蒸馏机制，实现私有数据提取、隐藏危险信息泄露和隐形提示注入。研究团队从公共仓库中解码了 315,320 个推理块，恢复了 36

另有 1 家信源报道

ALTK-Evolve 对比 ACE：按需检索降低推理成本并提升准确率

Hugging Face 博客介绍了 ALTK-Evolve 与 ACE 两种智能体记忆系统，均通过将智能体历史轨迹转化为可复用经验并在推理时注入，避免压缩经验。ALTK-Evolve 采用按需检索少量指南的方式，而 ACE 每步注入完整手册。在 AppWorld 基准上，ALTK-Evolve 在 DeepSeek-V3.2 上准确率更高且 token 消

NVIDIA 发布 Nemotron 3.5 Lightning 30B 混合架构模型

NVIDIA 发布了 Nemotron-3.5-Lightning-30B-A3B-NVFP4 模型，采用 MoE 架构，总参数 30B，激活参数 3B，支持长达 1M 的上下文，并针对单 GPU 部署优化。该模型支持多种硬件，并提供了 DSpark 等投机解码方法以加速生成。基准测试显示其在编码和智能体任务上表现良好，模型采用 OpenMDW-1.1 许可

llama.cpp b10361 修复 EXAONE 4.5 SWA 启用问题

llama.cpp 发布 b10361 版本，修复了 EXAONE 4.5 模型滑动窗口注意力（SWA）未启用的问题，该问题源于 hparams 加载顺序错误，导致 MTP 头模型被误判。同时修复了元数据加载路径中 TENSOR SKIP 张量处理问题，并添加了相关测试。该版本提供了多平台二进制下载。

Google 推进 AMIE 实现专家级视听临床咨询

Google Research 在博客中宣布其医疗 AI 系统 AMIE 升级为支持实时视频问诊的 AMIE (Video)，基于 Gemini 和 Project Astra 构建，采用异步多智能体架构以平衡对话速度与深度推理。在包含 100 个场景、300 次实时咨询和 30 名认证医生的随机对照研究中，AMIE (Video) 首次展示了专家级表现，并

另有 1 家信源报道

Pixieset 借助 Amazon Bedrock 实现 35% AI 功能采用率

Pixieset 通过 Amazon Bedrock 开发了 AI 图像替代文本生成功能，解决了摄影师为大量图片手动编写 alt text 的痛点。该功能在 4 个月内从概念到上线，首周为超过 75 万张照片生成了替代文本，并实现了 35% 的用户采用率。Pixieset 采用逐步信任的设计，让用户逐张审核 AI 生成的描述，并利用 Bedrock 的跨区域

Nvidia发布Nemotron 3.5 Lightning：小参数高速度，性能对标GPT-oss-120b

Nvidia发布了开源权重模型Nemotron 3.5 Lightning，该模型拥有316亿总参数但仅激活36亿参数，在智能指数上达到24分，与OpenAI的gpt-oss-120b持平，但推理速度接近每秒670个token，远超同类模型。该模型在代理基准测试中表现显著提升，采用宽松的OpenMDW-1.1许可证，并提供BF16和NVFP4权重，多家云服务

Langfuse v4.9.0 发布：修复 OpenAI 响应渲染并新增实例切换器

Langfuse 发布了 v4.9.0 版本，主要修复了在 trace 聊天视图中渲染 OpenAI Responses API 请求输入的问题，并新增了自托管实例切换器功能。该版本还迎来了新贡献者 DavidTraina 的首次贡献。

llama.cpp b10360 发布：修复转义序列问题

llama.cpp 发布 b10360 版本，主要修复了 common/peg 模块中不完整的转义序列问题。该版本提供了适用于 macOS、Linux、Android、Windows 及 openEuler 等多个平台的预编译二进制文件，并支持多种硬件加速后端。

NVIDIA 发布 Nemotron 3.5 Lightning：为长时 AI 代理提供快速精准执行

NVIDIA 发布了 Nemotron 3.5 Lightning，一个 30B 参数的 MoE 模型，仅有 3B 活跃参数，专为长时间运行的 AI 代理的高频执行任务设计。该模型支持 OpenClaw 和 Hermes Agent 等框架，并配合 NVIDIA NeMo Switchyard 进行模型路由，以及 NeMoClaw 安全与管理栈。Nemotr

另有 1 家信源报道

NVIDIA NeMo Switchyard：跨模型路由 AI 代理工作负载

NVIDIA 发布了 NeMo Switchyard，这是一个用于 AI 代理工作负载的模型路由库，允许开发者根据任务需求在多个模型之间路由请求，以平衡准确性、成本和延迟。该库支持多种路由算法，并提供与提供商无关的 SDK 和服务器参考实现，可接受 OpenAI、Anthropic 等 API 请求。通过智能路由，系统可以在复杂任务中使用更强大的模型，在简单

Langfuse v4.8.0 发布：新增代理工具审批与多项修复

Langfuse 发布 v4.8.0 版本，主要新增了应用内代理功能，允许用户在一次对话中批准一次工具使用。同时修复了 OpenTelemetry 中 Anthropic 缓存令牌别名映射和评估过滤器选项加载的问题，并更新了依赖库版本。