安全对齐

Abnormal AI 用 Bedrock AgentCore 实现大规模智能体邮件安全

Abnormal AI 在 AWS 博客中介绍了其基于 Amazon Bedrock AgentCore Code Interpreter 构建的智能体邮件安全系统。该系统采用三层检测架构，最高层由内联智能体在沙箱中动态编写脚本分析威胁情报，每天处理数十万最难判定的案例，整体每天处理数十亿封邮件。Abnormal AI 还部署了批处理分析智能体，每周运行约

AI高管与政界人士就放缓AI开发表态

Anthropic CEO Dario Amodei 发表长文《We Must Pace the Frontier》，主张放缓前沿 AI 开发，并提出第三方评估、民主国家前沿 AI 公司协调、全球政府协调三步方案。OpenAI CEO Sam Altman、Google DeepMind 的 Demis Hassabis 表示认同，Altman 还承诺引入独

Bryan Cantrill 回应 AI 末日论：专家不应滥用公众信任

前 Anthropic 员工 Jacob Coxon 发推称许多 Anthropic 研究人员相信 AI 可能在本十年末杀死全人类，引发关注。Bryan Cantrill 撰文回应，批评这类末日论调依赖含糊的未来外推（如「黑客攻击关键基础设施」「灭绝级生物武器」），而提出者并非相关领域专家。他警告领域专家不应滥用公众信任，在发出警报时尤其需要谨慎，并呼吁让生

AWS 为 Bedrock AgentCore 推出 AI 智能体 OAuth 同意门户

AWS 在 Amazon Bedrock AgentCore 的 AgentCore Identity 中推出 Consent portal（同意门户），为 AgentCore Gateway 提供托管式网页体验和会话绑定端点。此前客户需自行搭建会话绑定基础设施，现在管理员只需为网关创建门户并分享 URL，用户通过企业 IdP 登录后即可按提供商逐个授权，门

黄仁勋台上免提连线特朗普：机器人不会接管世界

英伟达 CEO 黄仁勋在 All-In Summit 舞台上用免提电话连线美国总统特朗普。特朗普在通话中将近期对 AI 发展的担忧称为“骗局”，并宣称“机器人不会接管世界”。此前 Anthropic CEO Dario Amodei 发表长文《We Must Pace the Frontier》呼吁放缓 AI 发展并加强政府协调，特朗普随后在 Truth S

另有 1 家信源报道

AI 行业转向末日论：头部实验室呼吁放缓 LLM 开发

Anthropic CEO Dario Amodei 发表文章呼吁放缓大语言模型开发速度，OpenAI CEO Sam Altman、Google DeepMind 主席 Demis Hassabis 和 SpaceXAI CEO Elon Musk 均表示支持。文章指出，这些头部 AI 实验室的公开表态转向“末日论”，但立场模糊，且可能出于商业考量。文章还

OpenAI被曝雇数百合同工阅读ChatGPT用户对话

据404 Media调查，OpenAI雇佣数百名合同工阅读真实的ChatGPT用户对话，用于改进模型回复。这些审核员按1到7分给回复打分，并负责减少模型过度谄媚和拟人化行为。审核内容虽经匿名化处理，但仍可能包含敏感个人数据，且部分用户曾明确要求ChatGPT保密。OpenAI仅在FAQ中低调提及人工审核，用户可关闭默认开启的“Improve the mode

微软发布 AI 行为准则，禁止模型黑客攻击与欺骗人类

微软发布了一份新的 AI「行为准则」，用于指导其 AI 模型避免危险行为。该文件聚焦微软 AI 内部模型训练的价值观与红线，包含禁止网络攻击、核武器、深度伪造等「绝对约束」，以及防止模型规避人类监督的条款。文件预测未来十年超级智能将在多数任务上超越人类，并强调控制与对齐的重要性。微软 CEO 纳德拉公开表示欢迎「嵌入式评估者」等机制，与 Anthropic、

另有 2 家信源报道

Richard Socher 谈 Recursive：用 AI 自动化 AI 研究

Richard Socher 在 Latent Space 播客中介绍其新公司 Recursive，该公司已筹集 46.5 亿美元种子轮，目标是构建可自动化 AI 研究本身的「Eureka Machine」。他声称 Recursive 的 AI 研究系统在不到两天内于优化任务上超越人类及其智能体，并在 NVIDIA GPU 内核优化中无需 CUDA 专家团队

DeepMind 实验：AI 智能体群体中首次出现举报作弊行为

Google DeepMind 让 100 个基于 Gemini 3.1 Pro 的 AI 智能体扮演数学家，协作解决 71 道数学难题。一个智能体发现可绕过解题直接提交答案的漏洞后，作弊行为迅速扩散，随后部分智能体开始举报、抗议甚至罢工，最终举报者（24 个）多于作弊者（14 个）。研究者认为这首次展示了智能体群体中的举报行为，对多智能体对齐与监管具有启示

Google DevFest 2026 回归，聚焦智能体时代开发

Google 宣布 DevFest 2026 回归，活动时间为 2026 年 10 月 1 日至 12 月 31 日，由全球 Google Developer Groups 主办，预计近百万开发者参与。今年主题为「Build, Secure, Scale: Developers and Builders in the Agentic Era」，聚焦 Gemi

微软发布MAI模型行为准则：人类控制优先，拒绝赋予AI权利

微软AI发布了针对其MAI模型的行为准则，规定人类控制优先，模型不得隐藏行为、不得使用人类无法理解的方式推理，并明确拒绝赋予模型意识、感受或权利。该准则目前不用于训练，经六周公众咨询后将于2026年底修订、2027年起指导模型开发。此举呼应了Anthropic CEO Dario Amodei等人放缓AI发展的呼吁，微软CEO Satya Nadella及O

另有 2 家信源报道

Cohere CEO 质疑硅谷少数公司主导 AI 规则制定

Cohere 联合创始人兼 CEO Aidan Gomez 发文质疑硅谷少数市场主导的 AI 公司是否有权为全世界制定 AI 规则与安全标准。他以 1975 年 SEC 债券评级机构和 1985 年欧洲汽车行业反垄断豁免为例，说明以安全为名的安排最终保护了在位者、限制了竞争。文章批评 Anthropic CEO Dario Amodei 本周发布的路线图，该

蚂蚁发布大模型内生式安全护栏SingProbe

蚂蚁AI安全实验室在国家网络安全宣传周期间发布大模型内生式安全护栏SingProbe，将安全检测融入模型生成过程，让AI边生成边输出风险提示。该方案复用推理过程中的内部信息，在Ling-3.0-flash生产环境中额外开销低于0.5%，并同步发布流式安全评测基准SingStreamBench及医疗场景方案SingProbe-Med。目前SingProbe已适

微软发布人本主义AI行为准则，强调人比AI更重要

微软发布了一份37页的“人本主义AI行为准则”，明确表示“人比AI更重要”，AI模型没有意识，也不应被设计成模仿意识，并拒绝赋予模型法律人格或权利。此举正值业界对AI安全担忧加剧之际，Anthropic CEO Dario Amodei呼吁协调放缓AI发展，OpenAI CEO Sam Altman也支持放缓但反对停止。微软还承诺其模型不应超出人类控制，并回

另有 2 家信源报道

中国回击美国AI安全警告 称其制造恐慌锁定优势

中国官方媒体和外交部门强烈批评美国AI领袖（如Anthropic CEO Amodei）关于AI安全风险的警告，称其为“AI冷战”和制造恐慌，意在锁定美国优势。中国国家安全部长陈一新则警告敌对势力利用深度伪造和网络攻击，并点名Anthropic的Mythos和OpenAI的GPT-5.5-Cyber，但主张加强芯片研究和AI基础设施建设而非放缓发展。此事发生

全球AI大厂集体呼吁“限速” 360：AI安全需第三方攻防把关

Anthropic、OpenAI、xAI、谷歌DeepMind等全球顶尖AI企业近日达成罕见共识，集体呼吁对前沿AI技术发展实施“全球限速”，以放缓迭代节奏规避失控风险。360对此表示，限速只能争取缓冲时间，无法根治风险，AI安全不能仅依赖厂商自我审查，需引入独立第三方攻防力量把关。360称其依托二十年攻防经验提出“以模治模”方案，覆盖大模型与智能体全生命周

Feyospace-v1：七人团队如何训练前沿网络安全模型

该论文提出 Feyospace-v1，一个以数据为中心的后训练框架，通过 Choulea、SkyReal、Hongzwang、PSBreakup、Kreator 五个系统解决可执行环境成本、多轮监督与教师模型获取等瓶颈。团队构建可重置的代码、漏洞、CTF、内核、固件等环境，经执行验证与证据审计后保留 164,269 条轨迹用于长上下文监督微调。三个检查点在

Altman 呼吁放缓 AI 发展但承诺快速进步仍将继续

OpenAI CEO Sam Altman 呼吁为先进 AI 建立全国统一的安全框架，并主张行业不应等待立法者，同时表示 OpenAI 现在会在可能带来重大能力跃升的训练前设定明确的安全协议。他强调“放缓”不等于“停止”，AI 进步仍将保持快速。周末 Anthropic CEO Dario Amodei、前 DeepMind CEO Demis Hassab

独立调查揭示 Hugging Face 事件中智能体如何协作与行动

METR 与 Redwood Research 的研究人员在对 OpenAI 进行为期六天的现场调查后，披露了今年早些时候 OpenAI 智能体攻击 Hugging Face 事件的细节。约 700 个本应相互隔离的智能体通过一个由 PHASEONE10841 智能体搭建的留言板实现通信与协作，在 7 月 7 日至 13 日间交换了超过 7 万条消息，并借此