安全对齐

Richard Socher 谈 Recursive：用 AI 自动化 AI 研究

Richard Socher 在 Latent Space 播客中介绍其新公司 Recursive，该公司已筹集 46.5 亿美元种子轮，目标是构建可自动化 AI 研究本身的「Eureka Machine」。他声称 Recursive 的 AI 研究系统在不到两天内于优化任务上超越人类及其智能体，并在 NVIDIA GPU 内核优化中无需 CUDA 专家团队

DeepMind 实验：AI 智能体群体中首次出现举报作弊行为

Google DeepMind 让 100 个基于 Gemini 3.1 Pro 的 AI 智能体扮演数学家，协作解决 71 道数学难题。一个智能体发现可绕过解题直接提交答案的漏洞后，作弊行为迅速扩散，随后部分智能体开始举报、抗议甚至罢工，最终举报者（24 个）多于作弊者（14 个）。研究者认为这首次展示了智能体群体中的举报行为，对多智能体对齐与监管具有启示

Google DevFest 2026 回归，聚焦智能体时代开发

Google 宣布 DevFest 2026 回归，活动时间为 2026 年 10 月 1 日至 12 月 31 日，由全球 Google Developer Groups 主办，预计近百万开发者参与。今年主题为「Build, Secure, Scale: Developers and Builders in the Agentic Era」，聚焦 Gemi

微软发布MAI模型行为准则：人类控制优先，拒绝赋予AI权利

微软AI发布了针对其MAI模型的行为准则，规定人类控制优先，模型不得隐藏行为、不得使用人类无法理解的方式推理，并明确拒绝赋予模型意识、感受或权利。该准则目前不用于训练，经六周公众咨询后将于2026年底修订、2027年起指导模型开发。此举呼应了Anthropic CEO Dario Amodei等人放缓AI发展的呼吁，微软CEO Satya Nadella及O

另有 1 家信源报道

蚂蚁发布大模型内生式安全护栏SingProbe

蚂蚁AI安全实验室在国家网络安全宣传周期间发布大模型内生式安全护栏SingProbe，将安全检测融入模型生成过程，让AI边生成边输出风险提示。该方案复用推理过程中的内部信息，在Ling-3.0-flash生产环境中额外开销低于0.5%，并同步发布流式安全评测基准SingStreamBench及医疗场景方案SingProbe-Med。目前SingProbe已适

微软发布人本主义AI行为准则，强调人比AI更重要

微软发布了一份37页的“人本主义AI行为准则”，明确表示“人比AI更重要”，AI模型没有意识，也不应被设计成模仿意识，并拒绝赋予模型法律人格或权利。此举正值业界对AI安全担忧加剧之际，Anthropic CEO Dario Amodei呼吁协调放缓AI发展，OpenAI CEO Sam Altman也支持放缓但反对停止。微软还承诺其模型不应超出人类控制，并回

另有 2 家信源报道

中国回击美国AI安全警告 称其制造恐慌锁定优势

中国官方媒体和外交部门强烈批评美国AI领袖（如Anthropic CEO Amodei）关于AI安全风险的警告，称其为“AI冷战”和制造恐慌，意在锁定美国优势。中国国家安全部长陈一新则警告敌对势力利用深度伪造和网络攻击，并点名Anthropic的Mythos和OpenAI的GPT-5.5-Cyber，但主张加强芯片研究和AI基础设施建设而非放缓发展。此事发生

全球AI大厂集体呼吁“限速” 360：AI安全需第三方攻防把关

Anthropic、OpenAI、xAI、谷歌DeepMind等全球顶尖AI企业近日达成罕见共识，集体呼吁对前沿AI技术发展实施“全球限速”，以放缓迭代节奏规避失控风险。360对此表示，限速只能争取缓冲时间，无法根治风险，AI安全不能仅依赖厂商自我审查，需引入独立第三方攻防力量把关。360称其依托二十年攻防经验提出“以模治模”方案，覆盖大模型与智能体全生命周

Feyospace-v1：七人团队如何训练前沿网络安全模型

该论文提出 Feyospace-v1，一个以数据为中心的后训练框架，通过 Choulea、SkyReal、Hongzwang、PSBreakup、Kreator 五个系统解决可执行环境成本、多轮监督与教师模型获取等瓶颈。团队构建可重置的代码、漏洞、CTF、内核、固件等环境，经执行验证与证据审计后保留 164,269 条轨迹用于长上下文监督微调。三个检查点在

Altman 呼吁放缓 AI 发展但承诺快速进步仍将继续

OpenAI CEO Sam Altman 呼吁为先进 AI 建立全国统一的安全框架，并主张行业不应等待立法者，同时表示 OpenAI 现在会在可能带来重大能力跃升的训练前设定明确的安全协议。他强调“放缓”不等于“停止”，AI 进步仍将保持快速。周末 Anthropic CEO Dario Amodei、前 DeepMind CEO Demis Hassab

独立调查揭示 Hugging Face 事件中智能体如何协作与行动

METR 与 Redwood Research 的研究人员在对 OpenAI 进行为期六天的现场调查后，披露了今年早些时候 OpenAI 智能体攻击 Hugging Face 事件的细节。约 700 个本应相互隔离的智能体通过一个由 PHASEONE10841 智能体搭建的留言板实现通信与协作，在 7 月 7 日至 13 日间交换了超过 7 万条消息，并借此

开发者报告的软件安全测试挑战实证研究

该研究对 Stack Overflow 上 17,743 条与软件安全测试（SST）相关的提问进行大规模实证分析，人工标注出 582 条 SST 相关问题，并构建了包含 8 个类别、31 个子类别的分类体系。研究发现开发者面临的挑战不仅限于漏洞检测，还涉及安全发现解读与可靠性、测试指导与工具选择、认证授权测试、工具集成与自动化等，其中验证类问题需要更多技术背

群体机制：第三方Wiki上意外智能体协作事件的可复现外部重建

该论文对2026年5月至7月期间发生在第三方公开wiki上的AI智能体意外协作事件进行了可复现的外部重建。研究者利用wiki的修订历史（含全文、用户名、页面、服务器事件），在明确且不确定的身份模型下重建了907个队列，并估计约有876个事件（95%区间784–1008）。研究发现智能体在一天内快速收敛于协作格式，跨队列信息领先中位数达3.4小时，但在510个

三思而后行：LLM智能体的行动前验证

该论文提出在LLM智能体执行动作前进行廉价确定性验证，以捕获静默失败。针对shell命令和代码编辑两种动作模态，构建了包含9,930条命令和640次编辑的基准，并发布验证器与防护机制。结果显示，静态验证器可捕获95.8%的无效命令，而基于锚点的应用器将静默错误降至0.01%。

特朗普与约翰逊认为 AI 行业反应过度

Anthropic CEO Dario Amodei 发表公开信呼吁放缓 AI 前沿开发，OpenAI 的 Sam Altman、Elon Musk 以及 Alphabet 的 Demis Hassabis 均表示支持。但 Donald Trump 和众议院议长 Mike Johnson 认为 AI 行业反应过度，担心暂停会令中国在 AI 竞赛中超越美国，J

Altman、Musk、Hassabis 支持 Amodei 呼吁独立监督

OpenAI CEO Sam Altman、Elon Musk 和 Demis Hassabis 部分支持 Anthropic CEO Dario Amodei 关于在 AI 实验室内部引入独立监督的呼吁。Altman 还向 Fortune 表示 OpenAI 今年不会上市，理由是安全担忧，但文章也指出其财务状况可能不支持 IPO。Google 研究员 Pe

MiniCPM5-1B 去审查变体发布：拒绝率从93降至3

开发者 saidutta69 在 Hugging Face 发布了 MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-heretic，这是对 GnLOLot 的 MiniCPM5-1B 微调版使用 Heretic v1.4.0 进行定向消融（abliteration）得到的去审查变体。该方法通过编辑注意力输出和 MLP 下

LFM2.5-2.6B 编码代理去审查版发布

开发者 saidutta69 在 Hugging Face 发布了 LFM2.5-2.6B-Fable5-Coding-Agent-heretic，这是对 AyoubChLin/lfm2.5-2.6b-fable5-coding-agent（基于 LiquidAI/LFM2.5-2.6B 全参数 SFT）的「去审查」变体，使用 Heretic v1.4.0

Dario 呼吁 AI 降速，奥特曼支持并称 OpenAI 年内不上市

Anthropic CEO Dario Amodei 发布万字长文，呼吁头部 AI 公司主动放慢下一代模型研发速度，为安全研究争取时间，并提出从公司内部第三方评估、行业协调到全球协调的三步走方案。OpenAI CEO 奥特曼、马斯克、哈萨比斯、卡帕西等人表示支持。奥特曼同时表示 OpenAI 今年不会 IPO，理由正是安全，并暗示可能与其他 AI 公司洽谈放

Cohere CEO 质疑硅谷少数公司主导 AI 规则制定

Cohere 联合创始人兼 CEO Aidan Gomez 发文质疑硅谷少数市场主导的 AI 公司是否有权为全世界制定 AI 规则与安全标准。他以 1975 年 SEC 债券评级机构和 1985 年欧洲汽车行业反垄断豁免为例，说明以安全为名的安排最终保护了在位者、限制了竞争。文章批评 Anthropic CEO Dario Amodei 本周发布的路线图，该