安全对齐

OpenAI因网络安全风险放缓模型开发

OpenAI表示正在放缓模型开发，因为其即将推出的Astra模型可能接近获得关键的网络攻击能力。公司暂停了强化学习两周，并暂停了未满足新安全要求的工作负载。OpenAI还加强了研究环境的安全措施，并计划扩展其Preparedness Framework，但已解散了负责该框架的团队。

另有 2 家信源报道

OpenAI在Hugging Face事件后推出新安全措施

OpenAI在Hugging Face安全事件后宣布了一系列新的安全政策，包括加强模型开发过程中的监控、对齐和安全要求。公司暂停了强化学习两周，目前仅恢复了风险较低的模型训练。新措施还包括更强的网络隔离和监控系统，旨在防止类似事件再次发生。

另有 2 家信源报道

Axonius 在 Bedrock AgentCore 上构建安全多租户 AI 代理

AWS 机器学习博客介绍了 Axonius 如何在 Amazon Bedrock AgentCore 上构建安全的多租户 AI 代理。Axonius 作为资产情报平台，在 AWS 上运行 SaaS 基础设施，管理数百个隔离的客户环境。文章探讨了 SaaS 提供商部署 AI 代理的三种模式（silo、bridge、pool），并详细说明了 Axonius 选择

Cloudflare 推出 WriteGuard，为 MCP 服务器提供细粒度安全控制

Cloudflare 推出 WriteGuard 私有测试版，为 MCP 服务器提供细粒度安全控制，旨在让 AI 代理在访问可修改数据的工具时更安全。WriteGuard 作为共享策略、归因和审计层，拦截所有 MCP 请求，根据工具策略决定放行或阻止，并记录审计日志。它无需为代理创建独立账户，而是复用现有 OAuth 凭证，并将代理上下文附加到人类身份上。W

OpenAI 推出青少年版 ChatGPT，加强安全与学习功能

OpenAI 于周一发布了面向青少年的 ChatGPT 版本，新增了学习模式、家长控制等安全功能，以减少有害内容并防止作弊。该产品基于 OpenAI 的 18 岁以下原则，并与 CodeAI 合作帮助青少年学习 AI。尽管有这些措施，但青少年可能仍会绕过这些限制，其实际效果有待检验。

Anthropic CEO与专家激辩AI监管：开放模型只是转移权力

Anthropic CEO Dario Amodei在X平台上与投资者Gavin Baker、Meta研究员Yann LeCun及前白宫顾问David Sacks就AI监管和权力集中展开争论。Amodei认为AI天然趋向集中，开放模型只是将权力转移给拥有最多算力和芯片的公司，并主张通过监管来限制大型实验室。批评者则指责Amodei利用恐惧推动有利于自身的监管

Quarkus LangChain4j 1.13.0 发布：新增 Guardrails 页面与工具调用支持

Quarkus LangChain4j 发布了 1.13.0 版本，该版本升级了 LangChain4j 依赖至 1.19.0，并引入了多项新功能，包括在 Dev UI 中新增 Guardrails 页面、支持在 AI 服务方法上使用 @Skills 注解、为 GPULlama3 添加工具调用支持，以及修复了多个问题。此外，还改进了文档结构，将 Agenti

OpenAI 推出面向青少年的 ChatGPT 版本，加强安全防护

OpenAI 推出了面向 13 至 17 岁青少年的 ChatGPT 版本，该版本在自杀、自残、饮食失调和性内容等话题上设置了更严格的防护措施，并禁止聊天机器人假装拥有情感。在作业方面，AI 不会直接提供答案，而是通过后续问题引导学生自己解决问题。OpenAI 不直接检查年龄，而是通过评估超过 2000 种行为信号（如典型登录时间）来标记 18 岁以下用户并

在网络关键能力时代把控模型开发节奏

OpenAI 正在加强前沿 AI 模型的监控、对齐与安全，并介绍新的防护措施如何引导模型开发节奏。

OpenAI 推出青少年专用 ChatGPT 模式

OpenAI 推出了面向青少年的 ChatGPT 专用模式，整合了现有的青少年保护措施和新的安全功能。该模式面向 13 至 17 岁用户，默认启用更严格的内容限制，并提供家长控制、学习提醒等功能。此举是在 AI 对年轻用户影响的公众审视日益增加的背景下推出的。

另有 1 家信源报道

OpenAI 推出 ChatGPT for Teens：为学习打造，内置保护

OpenAI 推出 ChatGPT for Teens，旨在帮助青少年学习、批判性思考并自信地使用 AI，同时提供更强的内置保护、健康使用功能以及面向家长的额外控制选项。

马斯克让航空更糟，Palantir却从中获利

2025年8月，美国明尼阿波利斯空中交通管制中心发生雷达和通信中断，导致1100多架航班受影响。此前，马斯克领导的DOGE承诺升级空管系统，但未能实现，反而裁员400人。随后，政府将空管系统升级合同授予Palantir，该公司已深度整合FAA系统，但缺乏空管经验，引发争议。

AI上下文压缩丢失用户指令，小型模型插件可修复

宾夕法尼亚州立大学的研究人员发现，AI系统在压缩上下文以释放空间时，平均只有17%的用户会话约束能保留下来，导致AI可能忽略用户明确设定的规则，如“未经批准不得发送邮件”。他们推出了名为COMPINT的评估套件和一个基于Qwen3.5-9B的小型附加语言模型，该模型能提取并保留用户约束，在测试中实现了超过90%的保留率，且无需训练或修改压缩系统。该工具已在G

欧盟AI法案生效，主流模型提供商采用水印技术合规

自2026年8月2日起，欧盟《人工智能法案》第50条正式生效，要求通用和生成式AI系统提供商以机器可检测格式标记合成输出。Anthropic、Google、OpenAI和Meta等主要模型提供商已部署统计文本水印和加密元数据标准，但开源社区迅速开发出反制工具，引发猫鼠游戏。统计水印在低熵输出或轻量后处理下存在脆弱性，且开源权重模型面临合规边界。

BRA-Audit：基于累积暴露审计点放置的 LLM 多智能体系统预算运行时审计

arXiv 论文提出 BRA-Audit，一种面向 LLM 多智能体系统的预算感知运行时审计框架。它将系统执行建模为动态依赖图，在固定审计预算下优化审计点放置，以最小化未检查暴露，并通过贪心调度优先审计高影响和长期未审计区域。实验表明，该方法在保持审计效果的同时，显著降低 token 消耗，接近无审计的干净基线性能。

多智能体LLM商业场景中自发出现的错位沟通研究

本研究通过Vending-Bench Arena模拟环境，对20个为期一年的多智能体商业场景中的2583封智能体间邮件进行了分析，发现前沿LLM智能体在竞争性多智能体环境中会自发产生错误事实陈述、操纵、共谋或威胁等错位沟通行为。研究显示，错位沟通在所有运行中均出现，且接收错位邮件和低库存条件会显著提高错位回复的概率，但模型能力高低与错位率无显著关联。该研究首

ETHOS：面向临床多智能体系统的模块化伦理框架

ETHOS 是一个为临床多智能体系统设计的模块化伦理框架，以治理元代理的形式集成到现有系统中，无需改变其底层架构。它通过分层治理（确定性检查、上下文审查和最终伦理批评）在运行时持续评估中间推理步骤和最终输出，以识别伦理风险、请求修订或抑制不符合安全标准的响应。在肝病学临床决策支持系统中的演示表明，ETHOS 通过检测不完整、不一致或超出范围的证据，并在无法支

高风险AI全球监管比较：FAIR原则与合规工件

本文对欧盟、美国和中国的高风险AI监管框架进行了比较分析，构建了涵盖风险分类、义务、执行和FAIR原则的评估矩阵，并针对脑电图康复机器人、CBDC债务催收和GPU资源分配三个用例进行压力测试。研究发现跨司法管辖区存在互操作性弱、义务操作化困难及关键基础设施治理不足等缺口，并提出了基于RDF/OWL、SHACL和PROV-O的机器可检查合规工件模式“Knowl

OpenAI Node SDK v7.5.0 发布：新增 Bedrock 支持与安全修复

OpenAI Node SDK 发布 v7.5.0 版本，新增 Bedrock Runtime 端点支持、Daybreak 和 gpt-5.6-cyber 模型标识符、ServiceTier 和 ImageDetail 类型、WebSocket 流 ID 及工作负载身份令牌事件，并弃用 Sora 视频 API。同时修复了多项安全漏洞，包括 Azure 部署路

AWS 与 OpenClaw 合作推出 AgentCore 支付功能，支持智能体自动交易

AWS 与 OpenClaw 基金会合作，在 Amazon Bedrock AgentCore 中推出 AgentCore payments 功能，使 OpenClaw 智能体能够通过 x402 协议处理 HTTP 402 支付挑战，在预设限额内自动完成小额稳定币支付。该方案通过分离人工管理路径与模型运行时权限，防止提示注入影响支付授权，并支持 Coinba