政策监管

齐向东：智能体重构软件，安全是必答题

9月20日，奇安信集团董事长齐向东在第28届中国国际软件博览会暨智能体创新应用大会上发表主旨演讲，指出工信部9月11日印发的《“人工智能+软件”专项行动实施方案》推动智能体在软件领域规模化应用，安全成为必答题。他提出智能体重构软件需防范安全规则失效、资产底数不清、权限边界被打破、新攻击入口、系统黑盒化五大风险，并主张通过部署圈、连接圈、权限圈、数据圈、审计圈

Flock 以员工买断方案缩减人力，应对监控技术争议

监控技术公司 Flock Safety 于周五推出自愿离职买断方案，预计约 1500 名员工中相当一部分会表达兴趣，公司称将批准大多数申请。此举发生在该公司车牌识别技术遭遇持续反弹之际，Wired 报道称若无买断方案，公司几乎肯定需要裁员。此前《华盛顿邮报》发现 46 起警方被指滥用 Flock 技术的案例，佛罗里达州和得克萨斯州表示将停用该技术，8 月有

特朗普提议为AI改名并组建AI Force

特朗普在 Truth Social 上发起投票，提议为 AI 重新命名，候选名称包括 Superior Intelligence、Extreme Intelligence 和 Supreme Intelligence，并称 AI 安全担忧是民主党制造的骗局。他还表示将成立类似太空军的 AI Force，并很快任命 AI 事务负责人。此举呼应了近期 AI 安全

另有 2 家信源报道

ElevenLabs 用语音 AI 强化选举并防范滥用

ElevenLabs 发布博客，介绍其在 2026 全球选举年利用语音 AI 强化民主进程并防范滥用的举措。巴西最高选举法院（TSE）在其‘选举助手’中加入由 ElevenLabs 语音技术驱动的语音界面，帮助公民获取可靠选举信息，双方通过 MoU 建立合作。公司还与巴西事实核查联盟 Comprova、Google DeepMind、Reality Defe

前DOJ反垄断负责人谈AI安全与反垄断豁免

前美国司法部反垄断负责人 Jonathan Kanter 在 The Verge 的 Decoder 播客中讨论了 AI 安全与监管问题。他提到大型 AI 实验室（如 Anthropic、Google DeepMind）的研究人员离职并警告模型存在真实威胁，部分研究者认为 AI 导致人类灭绝的概率超过 10%。这些公司的 CEO 呼吁放缓开发并制定监管，甚至

AI监管之争未休：CEO阵营分裂，特朗普政府立场摇摆

围绕AI监管的争论持续升温。Anthropic CEO Dario Amodei提出三步计划放缓AI发展，OpenAI CEO Sam Altman、Google DeepMind联合创始人Demis Hassabis及Elon Musk一度公开表示认同。但Meta CEO Mark Zuckerberg反对限制企业自主权，并与Musk、Nvidia CEO

多位一线AI研究员离职发声：对齐追不上AI，人类时间不多了

Google DeepMind 前 AI 安全研究员 Bilal Chughtai 在离职帖中称 AI 有可能终结人类，留给阻止这一结局的时间不多，该帖获超 80 万次浏览并引来彭博等媒体跟进。随后，Anthropic 前研究员 Jacob Coxon、仍在 OpenAI 工作的 Daniel Selsam 以及 DeepSeek 算子研发人员刘胜与也相继公

美军因AI幻觉情报报告险些登临中国船只

据CNN独家报道，2026年春季，美国军方一名特种作战司令部分析师使用聊天机器人生成的情报报告，错误地将一艘中国船只的货物标记为核武器部件，导致美军武装士兵和飞机几乎登船拦截，所幸在最后几分钟有人发现错误。报道称该聊天机器人混淆了公开来源情报与政府持有的秘密信号情报，且军方在AI生成情报的核实方面缺乏统一标准，内部系统多为商业产品的'涂脂抹粉'版本，年轻分析

印度强制来电识别应用向电信运营商共享垃圾报告

印度电信监管局（TRAI）修订商业通信规则，要求来电识别和通话管理应用将用户标记的垃圾电话报告共享给电信运营商维护的区块链平台，Truecaller 认为这是单向数据转移且具有反竞争性。新规同时将自动拨号及使用预录或 AI 语音的呼叫纳入 A2P 框架，要求企业提前向运营商申报号码，未申报的呼叫将被视为垃圾电话。Truecaller 在印度拥有超过 3.5

Anthropic 确认运营湿实验室，用 AI 做生物实验

Anthropic 向 TechCrunch 确认其在湾区运营一个湿生物学实验室，用自家 AI 模型进行真实生物实验，主要聚焦基础生物学而非药物发现。公司此前收购了 stealth AI 生物技术公司 Coefficient Bio，并推出生命科学验证计划，让受审核的生物研究者使用其最强模型。此举与 CEO Dario Amodei 等人关于 AI 生物风险

AI幻觉险些触发美军行动

CNN报道，今年春季美国针对一艘中国船只的武装行动因情报由AI聊天机器人幻觉生成而在最后一刻被叫停，险些引发与中国的冲突。该虚假情报源自特种作战司令部一名分析员，其用AI聊天机器人合成开源数据与机密信号情报，机器人误判了船只货物清单，分析员又用该工具将错误结论格式化成官方摘要并在指挥链中传阅。此事凸显军方在加速整合AI时，若缺乏人工监督，幻觉可能沿指挥链上行

OpenAI与微软内部文件承认AI抓取引发网络'末日循环'

纽约时报诉OpenAI和微软案中解封的法庭文件显示，两家公司内部早已意识到其AI数据抓取行为会损害网络生态。微软应用科学总监Brent Hecht将数据抓取称为'人类历史上最大的劳动力盗窃'，并指出这'完全嘲弄了合理使用的概念'。内部文件承认AI内容策略已启动一个'末日循环'，会同时损害模型性能和整个网络。微软试图与Hecht的言论保持距离，称其仅代表个人观

弗吉尼亚州长成立AI特别工作组并限制数据中心发展

弗吉尼亚州州长Abigail Spanberger签署第22号行政命令，禁止行政部门官员为数据中心项目签署保密协议，要求加快噪音监管并审查数据中心的备用发电运营，同时成立AI特别工作组评估劳动力替代和数据隐私等风险。她还推出“数据中心问责框架”，取消部分“当然批准”机制、削减州补贴并设立环境护栏。此举与加州、纽约州和得州州长的类似行政行动相呼应，表明在国会和

加州州长纽森签署行政命令，要求为AI模型设置“终止开关”

加州州长加文·纽森签署行政命令，要求加快对AI公司的独立监督，并推动为AI模型设置“终止开关”。该命令回应了近期如Hugging Face攻击等事件，并成立专家小组在两个月内提出建议，包括要求AI公司在其实验室内部嵌入独立审计员。纽森还批评了特朗普，并呼吁国会采用加州的AI监管框架作为全国基线。

Dario Amodei 等 AI 领袖想“Pace the Frontier”，但如何实现？

Anthropic CEO Dario Amodei 提出“Pace the Frontier”计划，主张依靠独立安全评估机构以及民主国家 AI 实验室之间的协调来推进 AI 发展。该提案已获得部分行业支持，但也遭到 Nvidia CEO Jensen Huang 的尖锐反对。TechCrunch 的 Equity 播客讨论了各公司能否就“放缓”的定义达成一

Anthropic CEO 提出放缓 AI 发展计划，Nvidia 黄仁勋反对

Anthropic CEO Dario Amodei 提出“pace the frontier”计划，主张依靠独立安全评估机构和民主国家 AI 实验室之间的协调来放缓 AI 发展，该提议已获得部分行业支持，但遭到 Nvidia CEO Jensen Huang 的尖锐反对。TechCrunch Equity 播客讨论了各公司能否就“放缓”的定义达成一致以及由

纽森推动加州AI监管：拟强制前沿模型配备终止开关

加州州长加文·纽森于周五签署行政命令，推动加州在AI监管上领先，包括可能强制前沿模型配备“终止开关”。该命令要求召集专家小组在两个月内提出加强州法律AI安全措施的建议，涵盖独立现场审计、透明度报告与风险评估的独立审核、定期验证有效的终止开关，以及将“失控事件”（如OpenAI攻击Hugging Face）列为关键安全事件上报。纽森还呼吁国会和特朗普采纳加州的

另有 1 家信源报道

好莱坞工会回应AI灭绝警告：关注现实威胁而非末日论

在AI公司高管和研究人员发出AI可能灭绝人类的警告之际，好莱坞各大制片厂对此保持沉默，而SAG-AFTRA和WGAE两大工会则公开质疑这种末日论调。SAG-AFTRA首席谈判代表Duncan Crabtree-Ireland表示，工会早在2023年罢工前就推动对AI数字复制品的使用设立可执行的保护条款，要求制片厂使用演员AI形象须获授权并给予补偿。WGAE执

Google 扩充 AI 与经济研究团队，多位知名经济学家加入

Google 宣布扩充其 AI & Economy 研究项目，聘请多位知名经济学家加入。2025 年诺贝尔经济学奖得主 Philippe Aghion 出任学术顾问，多伦多大学的 Ajay Agrawal 担任访问学者，前麦肯锡全球研究院合伙人 Anu Madgavkar 和宾夕法尼亚大学沃顿商学院的 Daniel Rock 出任研究项目总监。该团队将聚焦未

OpenAI 发布澳大利亚青年安全蓝图

OpenAI 发布澳大利亚青年安全蓝图，这是一份包含六大支柱的路线图，旨在打造更安全的 AI 体验，以保护和赋能年轻人。