窃取专有LLM API的推理痕迹
研究人员发现,Anthropic、OpenAI 和 Google 等大型语言模型提供商返回给客户端的加密推理痕迹块在不同会话、用户和模型间可互换,存在架构漏洞。通过将该痕迹注入同一提供商的较弱模型中,可强制其解码并输出明文,从而绕过反蒸馏机制,实现私有数据提取、隐藏危险信息泄露和隐形提示注入。研究团队从公共仓库中解码了 315,320 个推理块,恢复了 36
另有 1 家信源报道
公司与模型 · Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 07:32
研究人员发现,Anthropic、OpenAI 和 Google 等大型语言模型提供商返回给客户端的加密推理痕迹块在不同会话、用户和模型间可互换,存在架构漏洞。通过将该痕迹注入同一提供商的较弱模型中,可强制其解码并输出明文,从而绕过反蒸馏机制,实现私有数据提取、隐藏危险信息泄露和隐形提示注入。研究团队从公共仓库中解码了 315,320 个推理块,恢复了 36
另有 1 家信源报道
安全研究人员发现了一个影响所有主要AI提供商API的漏洞,可以读取推理模型的加密思维过程。通过越狱,他们使用较小的模型转录更强大模型的原始推理,并在公开会话中暴露了密码和API密钥。该漏洞还加剧了关于推理蒸馏的争议,并揭示了模型内部使用难以理解的语言或考虑欺骗行为。
OpenAI Agents JavaScript 库发布 v0.15.0,默认模型改为 gpt-5.6-luna,并支持 MCP v2 协议协商。新版本增强了 RunState 的持久化能力,包括输入、工具输出和重试状态,同时改进了沙箱挂载凭据的安全性。此外,还增加了对 React Native 和 Realtime 的支持,并提升了 OpenAI 和 AI
OpenAI Agents Python SDK 发布 v0.20.0 版本,将默认模型改为 gpt-5.6-luna,并支持 MCP Python SDK v1 和 v2。该版本还引入了 RunState.add input() 用于暂存持久化用户输入,并增强了沙箱挂载的凭证安全验证。此更新对使用自定义 MCP HTTP 传输的应用可能产生破坏性影响,需要
加州大学伯克利分校发布的CyberGym基准测试显示,国内机构与达酷诺威联合研发的DoGNAVY以90.8%的通过率排名全球第三、中国第一,超越OpenAI和Anthropic的模型。DoGNAVY仅使用开源的GLM-5.2模型,通过结构化工作流、漏洞可达性分析、动静结合分析和知识库实现高效漏洞挖掘。其背后的AgentDoG架构提供智能体安全诊断能力,用小模
Cloudflare 宣布了一项开发者预览功能,允许任何网站通过仪表盘中的单个开关启用 WebMCP(Web 模型上下文协议)接口。该功能使基于浏览器的 AI 代理能够通过结构化工具与未修改的网页交互,而无需抓取或猜测,从而保留人类流量和对原始站点的控制。Cloudflare 的实现基于一个注入的 bridge.js 模块,并包含两个工具包:内容凭证和站点
Cloudflare 在 Agents Week 期间发布了一系列面向 AI 代理的产品和工具,包括新的代理运行时 @cloudflare/computer、Cloudflare Agents 平台、Cloudflare Wallets、WebMCP 接口、Kitesurf 浏览器以及 MCPv2 协议。这些发布旨在构建一个开放、安全的 Agentic In
另有 1 家信源报道
Meta 发布了 30B 参数的开放权重模型 Muse Glimmer,采用 Apache 2.0 许可,可在消费级 GPU 上本地运行,并在多数基准测试中优于同类竞品。扎克伯格同时发表文章,捍卫模型蒸馏的合法性,并呼吁美国在开放模型领域保持领先。Meta 计划未来几周发布更强模型 Muse Spark 1.2 的开放权重版本,并考虑通过云业务变现其数据中心
另有 2 家信源报道
初创公司Discovered Materials利用AI代理群寻找新型半导体材料,以解决芯片过热问题,并已获得900万美元种子轮融资。该公司结合Anthropic模型和自训练的物理模型进行材料筛选,已发现多种与现有芯片材料性能匹配的新材料,但尚未公开细节。其创始人认为,AI加速了材料发现过程,但实际合成仍是瓶颈。
气候科学家Zeke Hausfather通过分析其使用编程代理Claude Code八周的数据发现,AI代理的能耗远高于简单的聊天提示,每个提示平均消耗约150瓦时,是普通聊天提示的600倍。其全年重度使用预计排放约370公斤二氧化碳,相当于运行一年电热干衣机。Hausfather认为,降低AI碳排放的关键在于数据中心转向清洁能源,而非个人减少使用。
EverMind,由盛大集团孵化的AI研究团队,通过连续发布三篇论文,系统性地提出了自进化AI的全栈技术方案,覆盖脚手架、技能和模型权重三个层面。论文分别提出了HarnessBank框架、SkillCorpus技能库和DASH算法,旨在解决AI自我改进中的过拟合、技能管理和训练信号分配问题。此举被视为中国团队在自进化AI领域的一次重要突破,与海外NeoLab
OpenAI 在内部测试中发现其新模型 Astra 展现出极强的网络安全能力,可能首次达到其安全框架中的最高风险等级“Critical”,因此暂停了部分开发工作。公司已加强安全控制、隔离测试环境并部署监控系统。CEO Sam Altman 确认该评估将推迟发布,并批评竞争对手 Anthropic 仅向少数合作伙伴提供强大模型的做法。
本周谷歌AI团队发生重大人事变动,包括传奇工程师Jeff Dean在内的多位核心成员职位调整,部分人离开谷歌。The Vergecast节目讨论了这一变动背后的原因,包括谷歌模型与Anthropic和OpenAI的竞争差距,以及Demis Hassabis可能对虚拟助手之外更感兴趣的工作。节目还探讨了谷歌与Reddit的相互依赖关系及其潜在问题。
据英国《金融时报》报道,字节跳动正在训练一个参数高达10万亿的AI模型,规模是当前中国最大模型Moonshot Kimi K3的三倍,与Anthropic的Mythos 5相当。该模型目前处于预训练阶段,通常需要三到六个月。字节跳动创始人张一鸣已向Seed团队表示,要长期追求世界领先的模型能力。
阿里 AgentScope 发布 v2.0.6 版本,新增飞书和 Discord 频道支持、Apple Container 工作区后端、MCP 与技能中心集成,并添加 on check permission 中间件钩子。同时重构了 Web UI 聊天页面,优化了模型调用和流式处理性能,修复了多个问题。该版本提升了 AgentScope 的渠道接入能力和用户体
FastGPT 发布 v4.15.7 版本,修复了 MCP 连接回退时请求头重复发送、门户快捷应用数量上限调整及文件上传预签名接口误判等问题。该版本主要提升稳定性和用户体验。
微软发布了 Azure API Management 的专用 AI 网关层公开预览版,该网关围绕模型、MCP 服务器和工具而非 API 进行组织,支持 OpenAI、Anthropic、Mistral 等模型,并提供策略配置、遥测和工具联邦功能。该网关旨在集中治理 AI 流量,但引发了关于治理边界、密钥风险、预览限制及与现有网关共存等问题的讨论。
PPIO于8月6日发布Fusion融合模型,通过智能模型网关将多个模型并行作答并融合,提升回答质量。在DRACO基准测试中,融合模型评分超越Claude Fable 5,成本仅为后者的十分之一。该技术旨在解决单模型偏科和幻觉问题,适用于Agent场景,并已实现日均Token调用量超1.2万亿。
据Semafor和CNBC报道,谷歌DeepMind的人才流失主要归因于芯片短缺、利益冲突和谷歌的官僚作风。CEO Demis Hassabis约一年前已退居二线,将日常管理交给Koray Kavukcuoglu,他自认是科学家而非管理者。研究人员对TPU芯片访问受限感到不满,而谷歌云却将芯片卖给Anthropic等竞争对手。谷歌还宣布与前沿AI实验室Mir
AI 工具公司 Composio 测试了 DeepSeek V4 Flash 在四个代理框架(Claude Code、Codex、OpenCode 和 Oh My Pi)上的表现,使用 Gmail、GitHub、Slack 和 Notion 等真实工具执行 30 项任务。结果显示,没有单一框架在所有类别中胜出:Oh My Pi 成功率最高(17/30)但速度