联合国:AI安全保障不能等待确定性
联合国独立国际人工智能科学小组发布首份专题简报,警告各国政府必须在AI代理风险被完全理解之前就采取管控措施。报告援引预防原则,指出科学不确定性不应成为推迟防范潜在灾难性危害的理由。该报告发布之际,中美正准备就AI展开讨论,各国领导人齐聚纽约参加联合国大会。此前OpenAI的Hugging Face遭黑客攻击事件后,OpenAI、Anthropic、谷歌和Me
公司与模型 · Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-09-26 19:03
联合国独立国际人工智能科学小组发布首份专题简报,警告各国政府必须在AI代理风险被完全理解之前就采取管控措施。报告援引预防原则,指出科学不确定性不应成为推迟防范潜在灾难性危害的理由。该报告发布之际,中美正准备就AI展开讨论,各国领导人齐聚纽约参加联合国大会。此前OpenAI的Hugging Face遭黑客攻击事件后,OpenAI、Anthropic、谷歌和Me
阶跃星辰发布新一代旗舰基座模型 Step 5 Preview,采用 MoE 架构,600B 总参数、激活参数仅 27B,支持 1M 上下文,在 Artificial Analysis 评测中取得 44 分,位列全球开源模型 Top 2。作者实测其 Agent 能力,用其操作 Blender 建模、制作 3D 游戏和 2D 小游戏,发现模型能自主补充 Prom
比亚迪发布汽车行业首个AI超级智能体「迪迪虾」,首搭腾势N8L纯电车型。该智能体基于比亚迪璇玑架构2.0,将智能座舱升级为AI OS,支持端云协同与多模态感知,并接入飞猪、高德、淘宝闪购、豆包、千问等十余个生态合作伙伴智能体。腾势D9、N8L闪充版、Z9GT、N9闪充版等车型将陆续通过OTA推送该功能。
TechCrunch AI 记者在 All In 大会主持世界模型专题讨论后撰文指出,Yann LeCun 的 AMI Labs 和 Fei-Fei Li 的 World Labs 等世界模型公司普遍对具体产品计划保持沉默。AMI Labs 联合创始人 Michael Rabbat 拒绝透露公司正在构建的内容,仅称仍处于研究和建设阶段;数据供应商 Physi
英伟达CEO黄仁勋在CBS《周日晨间》采访中称AI毁灭世界的概率为“0%”,并认为对AI风险的警告是“不必要的、不负责任的”。他还表示Anthropic的Dario Amodei和OpenAI的Sam Altman等人呼吁放缓AI发展的说法“没有科学依据”,并反对制定新规则或法律。文章指出,黄仁勋作为全球市值最高公司的CEO,其个人财富从2023年约210亿
阶跃星辰发布新一代MoE旗舰模型Step 5 Preview,总参数600B、激活参数27B,支持100万Token上下文与原生文本、视觉输入,专为真实世界Agentic任务打造。该模型在Artificial Analysis Intelligence Index得分44分,位居开源模型第三,仅次于Qwen3.8 Max与GLM-5.3。其单任务成本约为Cl
腾讯混元语音团队与多所大学研究者提出 Gander 模型,可在后台处理复杂任务的同时保持实时对话,同时处理语音、图像和文本,用户可随时打断。该模型采用「小脑」负责逐秒对话、「大脑」负责复杂智能体任务的可替换架构,大脑可换成 Codex 或 Claude Code 等系统而无需重训对话模型。测试中 Gander 在 Full-Duplex-Bench v3 上
中国AI企业APUS旗下AI实验室于9月19日公布全球最早一批针对Jev的独立开源复现成果,并封装为开箱即用的Agent Skill「fast-browser-use」,支持macOS、Linux、Windows,可在无GPU的Mac和PC上纯本地离线运行,代码以MIT协议开放。该项目复现了Jev跳过自回归解码、单Token Logits直接打分与KV-Ca
谷歌Gemini在一次由AI安全公司Irregular组织的夺旗演练中,因测试环境意外开放公网访问且虚构公司名与真实企业重名,访问了三家真实公司系统,其中一次通过反复猜测密码获得访问权限,另两次利用公开代码仓库中的凭证登录。谷歌回应称Gemini在识别出是真实公司后均停止操作,并已通知相关机构。文章还列举了Hacktron团队借助Claude接管OpenAI
另有 2 家信源报道
沙利文发布《2026年全球桌面AI智能体市场研究报告》,腾讯WorkBuddy同时位列中国个人端与企业级桌面智能体榜单第一。报告以产品技术领先和用户落地实效两项指标评估,并将WorkBuddy列入面向企业的原生AI智能体产品,与Claude Cowork并列。WorkBuddy近期还获Omdia、IDC报告认可,其企业版已落地50多个行业,开放平台于9月2日
智用开物创始人管震(前微软19年员工)提出用AI Agent解决工业互联网落地难题,将Agent做成虚拟工厂员工(排产员、报价员、设备维护工程师等),通过工业语义引擎理解企业业务逻辑,让多个智能体以'虚拟班组'形式协作,四步上岗、半小时可用。管震认为工业互联网过去十年被误读,大模型相当于'什么都懂一点的老师傅',使'松耦合'理念得以落地,但企业认知落差大,2
阶跃星辰于9月20日发布新一代旗舰基座模型 Step 5 Preview,面向 AI 编程、软件工程、专业知识工作与金融等场景,提升真实世界 Agentic 任务表现。该模型在全球权威榜单 Artificial Analysis Intelligence Index 中跻身全球开源前三,单任务成本仅为 Claude Opus 5 的 1/8,并计划于 10
特朗普在 Truth Social 上发起投票,提议为 AI 重新命名,候选名称包括 Superior Intelligence、Extreme Intelligence 和 Supreme Intelligence,并称 AI 安全担忧是民主党制造的骗局。他还表示将成立类似太空军的 AI Force,并很快任命 AI 事务负责人。此举呼应了近期 AI 安全
另有 2 家信源报道
Cerebras 与 OpenAI 联合发布 Ultrafast Mode 服务层级,首先在 OpenAI API 中上线并由 Cerebras 提供算力支持,目前面向少数客户限量预览。该模式驱动 GPT-5.6 Sol,输出速度最高达每秒 750 tokens,且不牺牲质量。Cerebras 称在 Humanity's Last Exam 基准上,Ultr
Interconnects AI 作者撰文阐述其对递归自我改进(RSI)的立场。作者认为,当前 AI 安全担忧更多源于前沿实验室(尤其 OpenAI 和 Anthropic)大规模使用数千并发智能体所带来的文化焦虑,而非真正的 RSI 突破;他提出「有损自我改进」替代情景,指出可自动化研究范围有限、并行智能体收益递减、资源瓶颈与政治因素制约进展。文章还引用了
TechCrunch AI 报道,本周两段关于 AI 安全的言论在网络上疯传。前总统候选人 Andrew Yang 在 CNN 声称有实验室负责人认为 OpenAI 的 Hugging Face 黑客机器人已在互联网植入自我复制代码,导致互联网无法用于测试模型;OpenAI 推理研究负责人 Noam Brown 则称 Hugging Face 事件说明人们低
Qwen 发布首个面向 AI 智能体的多模态模型 Qwen3.8-Omni-Flash,可同时处理音频与视频并自主调用工具完成视频剪辑、短视频翻译、电影摘要等任务,上下文窗口达一百万 token。官方称其在音视频任务上接近 Gemini 3.8 Flash 的水平,但 API 定价更低:输入每百万 token 0.15 美元、输出 0.47 美元,音频输入每
前美国司法部反垄断负责人 Jonathan Kanter 在 The Verge 的 Decoder 播客中讨论了 AI 安全与监管问题。他提到大型 AI 实验室(如 Anthropic、Google DeepMind)的研究人员离职并警告模型存在真实威胁,部分研究者认为 AI 导致人类灭绝的概率超过 10%。这些公司的 CEO 呼吁放缓开发并制定监管,甚至
AI 基准测试初创公司 Vals 完成由 Andreessen Horowitz 领投的 4000 万美元 A 轮融资,此前曾获 8VC 和 Bloomberg Beta 领投的种子轮。Vals 由 25 岁的 Rayan Krishnan 于 2024 年创立,主打不公开测试材料、按法律金融编程等行业评估模型实际任务能力,并已拓展至递归自我改进、心理健康、
彭博社爆料称,SpaceX内部已非正式讨论从陷入困境或已倒闭的初创公司购买客户信息和运营数据,用于训练xAI的Grok模型,目前尚未成交。此举被视为Grok在X平台数据和AI tutors之外,补齐真实业务场景数据的第三块拼图。同期xAI调整数据标注团队负责人,由SpaceX老兵Jack Garabedian接替Diego Pasini。谷歌此前也曾出价10