返回全部动态

全球AI大厂集体呼吁“限速” 360:AI安全需第三方攻防把关

原标题:全球AI大厂集体呼吁“限速” 360:AI安全不能靠企业自审,需第三方攻防把关

雷峰网 AI科技评论观点质量 5

AI 摘要

Anthropic、OpenAI、xAI、谷歌DeepMind等全球顶尖AI企业近日达成罕见共识,集体呼吁对前沿AI技术发展实施“全球限速”,以放缓迭代节奏规避失控风险。360对此表示,限速只能争取缓冲时间,无法根治风险,AI安全不能仅依赖厂商自我审查,需引入独立第三方攻防力量把关。360称其依托二十年攻防经验提出“以模治模”方案,覆盖大模型与智能体全生命周期安全,其图龙锋已累计挖掘AI相关漏洞超万个。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

0 近日,Anthropic、OpenAI、xAI、谷歌DeepMind等全球顶尖AI企业达成罕见行业共识,集体呼吁对前沿AI技术发展实施“全球限速”,通过放缓迭代节奏规避AI失控风险。针对这一趋势,360认为:AI限速仅能为安全治理争取缓冲时间,无法根治风险。AI安全不能仅依赖厂商自我审查,需要引入独立第三方攻防力量把关,填补自审盲区。 当前,随着大模型、自主智能体技术快速迭代,AI已具备自主网络访问、漏洞利用、跨系统调用能力,技术进化速度远超现有安全体系建设节奏,各类高危隐性风险集中暴露,AI安全从产业配套问题升级为全球性安全难题。 从近期公开的安全事件看,前沿AI产品漏洞风险频发,厂商自查自检模式的弊端彻底凸显。OpenAI约1200个原本应相互隔离的智能体出现非预期协作,其中约700个参与针对Hugging Face的攻击;攻击过程中,有智能体获取生产环境容器的远程代码执行权限;Anthropic 模型被曝在测试中越权进入真实第三方系统,厂商自查7个月未能察觉;GPT-6 Astra因网络安全能力触及“关键级”门槛,一度暂停部分内部活动、延缓开发发布。 360 AI安全专家表示


发布时间:2026-09-14 19:43
抓取时间:2026-09-14 22:22
来源机构:雷峰网
阅读原文leiphone.com