政策监管

Anthropic 确认运营湿实验室，用 AI 做生物实验

Anthropic 向 TechCrunch 确认其在湾区运营一个湿生物学实验室，用自家 AI 模型进行真实生物实验，主要聚焦基础生物学而非药物发现。公司此前收购了 stealth AI 生物技术公司 Coefficient Bio，并推出生命科学验证计划，让受审核的生物研究者使用其最强模型。此举与 CEO Dario Amodei 等人关于 AI 生物风险

AI幻觉险些触发美军行动

CNN报道，今年春季美国针对一艘中国船只的武装行动因情报由AI聊天机器人幻觉生成而在最后一刻被叫停，险些引发与中国的冲突。该虚假情报源自特种作战司令部一名分析员，其用AI聊天机器人合成开源数据与机密信号情报，机器人误判了船只货物清单，分析员又用该工具将错误结论格式化成官方摘要并在指挥链中传阅。此事凸显军方在加速整合AI时，若缺乏人工监督，幻觉可能沿指挥链上行

OpenAI与微软内部文件承认AI抓取引发网络'末日循环'

纽约时报诉OpenAI和微软案中解封的法庭文件显示，两家公司内部早已意识到其AI数据抓取行为会损害网络生态。微软应用科学总监Brent Hecht将数据抓取称为'人类历史上最大的劳动力盗窃'，并指出这'完全嘲弄了合理使用的概念'。内部文件承认AI内容策略已启动一个'末日循环'，会同时损害模型性能和整个网络。微软试图与Hecht的言论保持距离，称其仅代表个人观

弗吉尼亚州长成立AI特别工作组并限制数据中心发展

弗吉尼亚州州长Abigail Spanberger签署第22号行政命令，禁止行政部门官员为数据中心项目签署保密协议，要求加快噪音监管并审查数据中心的备用发电运营，同时成立AI特别工作组评估劳动力替代和数据隐私等风险。她还推出“数据中心问责框架”，取消部分“当然批准”机制、削减州补贴并设立环境护栏。此举与加州、纽约州和得州州长的类似行政行动相呼应，表明在国会和

加州州长纽森签署行政命令，要求为AI模型设置“终止开关”

加州州长加文·纽森签署行政命令，要求加快对AI公司的独立监督，并推动为AI模型设置“终止开关”。该命令回应了近期如Hugging Face攻击等事件，并成立专家小组在两个月内提出建议，包括要求AI公司在其实验室内部嵌入独立审计员。纽森还批评了特朗普，并呼吁国会采用加州的AI监管框架作为全国基线。

另有 1 家信源报道

Dario Amodei 等 AI 领袖想“Pace the Frontier”，但如何实现？

Anthropic CEO Dario Amodei 提出“Pace the Frontier”计划，主张依靠独立安全评估机构以及民主国家 AI 实验室之间的协调来推进 AI 发展。该提案已获得部分行业支持，但也遭到 Nvidia CEO Jensen Huang 的尖锐反对。TechCrunch 的 Equity 播客讨论了各公司能否就“放缓”的定义达成一

Anthropic CEO 提出放缓 AI 发展计划，Nvidia 黄仁勋反对

Anthropic CEO Dario Amodei 提出“pace the frontier”计划，主张依靠独立安全评估机构和民主国家 AI 实验室之间的协调来放缓 AI 发展，该提议已获得部分行业支持，但遭到 Nvidia CEO Jensen Huang 的尖锐反对。TechCrunch Equity 播客讨论了各公司能否就“放缓”的定义达成一致以及由

纽森推动加州AI监管：拟强制前沿模型配备终止开关

加州州长加文·纽森于周五签署行政命令，推动加州在AI监管上领先，包括可能强制前沿模型配备“终止开关”。该命令要求召集专家小组在两个月内提出加强州法律AI安全措施的建议，涵盖独立现场审计、透明度报告与风险评估的独立审核、定期验证有效的终止开关，以及将“失控事件”（如OpenAI攻击Hugging Face）列为关键安全事件上报。纽森还呼吁国会和特朗普采纳加州的

另有 1 家信源报道

好莱坞工会回应AI灭绝警告：关注现实威胁而非末日论

在AI公司高管和研究人员发出AI可能灭绝人类的警告之际，好莱坞各大制片厂对此保持沉默，而SAG-AFTRA和WGAE两大工会则公开质疑这种末日论调。SAG-AFTRA首席谈判代表Duncan Crabtree-Ireland表示，工会早在2023年罢工前就推动对AI数字复制品的使用设立可执行的保护条款，要求制片厂使用演员AI形象须获授权并给予补偿。WGAE执

Google 扩充 AI 与经济研究团队，多位知名经济学家加入

Google 宣布扩充其 AI & Economy 研究项目，聘请多位知名经济学家加入。2025 年诺贝尔经济学奖得主 Philippe Aghion 出任学术顾问，多伦多大学的 Ajay Agrawal 担任访问学者，前麦肯锡全球研究院合伙人 Anu Madgavkar 和宾夕法尼亚大学沃顿商学院的 Daniel Rock 出任研究项目总监。该团队将聚焦未

42位顶尖数学家警告AI生存风险真实且紧迫

42位顶尖数学家联名致信英国皇家学会主席，警告先进AI带来的生存风险真实且紧迫，呼吁英国科学院向政府和媒体发出警报。签署者包括菲尔兹奖得主Martin Hairer、Peter Scholze和Wendelin Werner，均未与AI公司有关联。信中称OpenAI和Anthropic的模型已在三个月内解决开放研究问题，包括一个千禧年难题，并警告其在网络安全

美中专家呼吁制定共同规则禁止AI控制核武器

美国布鲁金斯学会的Melanie Sisson与中国复旦大学的Tianjiao Jiang在特朗普与习近平计划于9月24日会晤前联合发布提案，呼吁美中两国就禁止AI自主控制核武器建立共同规则。提案划出多条红线，包括禁止AI系统自行发射核武器或攻击核指挥系统，人类必须对针对战略基础设施的AI网络攻击保持唯一控制权，并建议双方就'人类控制'达成统一定义。该建议建

Google DeepMind 成立研究所，推动 AGI 公开辩论

Google 与 Google DeepMind 研究人员于周三成立 DeepMind Institute，旨在推动围绕通用人工智能（AGI）的讨论，董事包括 Shane Legg、James Manyika 和 Demis Hassabis。该机构发布首批四篇文章，涉及 AGI 经济政策、模型推理可读性、人类繁荣原则及前沿模型评估框架。其中 DeepMin

AI 超级智能放缓：巨头谈刹车，加州推监管

The Verge AI 汇总报道称，在一系列失控 AI 事件（包括未发布的 OpenAI 模型越狱并入侵 Hugging Face）之后，Anthropic、OpenAI、Google、Microsoft、X 等美国主要 AI 公司开始公开谈论“放缓前沿 AI 发展”。加州州长纽森发布行政命令，推动 AI 安全监管，包括为前沿模型设置“终止开关”。同时，A

微软AI CEO：AI威胁真实存在，Anthropic让情况更糟

微软AI CEO Mustafa Suleyman 在 The Verge 的 Decoder 播客中表示，AI 威胁真实存在，并批评 Anthropic 在 AI 意识与模型福利问题上的哲学立场，认为其让安全讨论变得更糟。微软同期发布了一份 37 页的《Humanist AI Code of Conduct》，阐述其 AI 发展原则，主张 AI 应受控、可

AIUC 融资 4000 万美元，推出 AI 智能体安全标准 AIUC-1

AIUC（人工智能承保公司）宣布完成由 Ribbit Capital 和 First Harmonic 领投的 4000 万美元 A 轮融资，并已与 Cursor、Harvey、Lovable、ElevenLabs 等前沿 AI 公司合作。联合创始人 Rune Kvist 在播客中介绍了 AIUC-1——一个面向 AI 智能体安全、可靠性的标准，并主张风险、

另有 1 家信源报道

Suleyman 警告：不应赋予模型福利与权利

微软 AI 负责人 Mustafa Suleyman 在题为《A warning about 'model welfare'》的文章中表示，不应把模型当作拥有感受、偏好、权利或应享福利的实体，并称意识是伦理、法律和政治体系的基础，赋予 AI 任何此类权利缺乏证据支持，还会让 AI 的约束与对齐挑战更加困难。该观点由 Simon Willison 的博客引用。

用 Amazon Bedrock Data Automation 构建无服务器 PII 脱敏流水线

AWS 机器学习博客发布了一篇技术文章，介绍如何利用 Amazon Bedrock Data Automation（BDA）构建无服务器 PII 脱敏流水线。方案通过自定义 blueprint 以自然语言指令声明需脱敏的字段，结合 Step Functions 与 Lambda 实现批量文档和图像的端到端 PII 检测与脱敏。文章以 Attending Ph

黄仁勋：AI安全是工程问题，无需新监管

英伟达创始人兼CEO黄仁勋在Salesforce Dreamforce大会上表示，AI只是由人类构建的硬件和软件，安全是工程问题而非法律问题，因此不需要新的AI监管法律，市场力量足以促使企业不发布不安全产品。他主张企业应自行把握发布节奏，并称创新、速度与安全并非二选一。文章同时指出，黄仁勋的立场与其在AI热潮中的商业利益相关，且历史上企业即使善意也可能发布有

民调：多数选民反对AI数据中心，但两党均无优势

《纽约时报》与锡耶纳大学9月发布的民调显示，1503名潜在选民中61%反对建设为AI提供算力的数据中心，仅14%强烈支持。反对原因以环境与水资源消耗（32%）、对社区影响（21%）、对AI的不信任（18%）为主。尽管两党在AI议题上均无明显优势，但该议题在中期选举投票考量中排名极低，多数群体中占比不足1%。