Anthropic警告GLM-5.3网络安全能力,反被指为其打广告
原标题:Anthropic,你是来给智谱打广告的吧!
AI 摘要
Anthropic发布报告警告智谱GLM-5.3具备强大的网络安全攻击能力,称其能自主发现漏洞、编写攻击程序,且安全护栏容易被绕过。报告引用实测数据称GLM-5.3在ExploitBench测试中410次尝试成功50次,接近Claude Mythos Preview的56次,并引用NIST下属CAISI评估称其为迄今网络能力最强的开源权重模型。Anthropic还演示了通过abliteration技术拆除护栏,使拒答率从90%以上降至约3%。但文章指出报告客观上为GLM-5.3做了宣传,且拆护栏问题并非该模型独有,而是开放权重的共性。
正文节选
Anthropic,你是来给智谱打广告的吧! 实测说GLM-5.3很强 金磊 发自 凹非寺 量子位 | 公众号 QbitAI 就蛮搞笑的。 事情的起因,是Anthropic一纸檄文状告了智谱的GLM-5.3,大致意思是说: GLM-5.3这个模型啊,它已经很会找软件漏洞、编写攻击程序,而且防滥用限制容易被绕过。大家得小心喽~ 但如果你把这篇文章读完吧,就会越发觉得不对劲儿。 因为Anthropic为了证明自己说的是有道理的,所以特意拿出了实测成绩。 例如在一项考察完整漏洞利用能力的ExploitBench测试中,同样尝试410次,GLM-5.3成功了50次,Claude Mythos Preview成功了56次。 文章顺带还引用了美国NIST下属CAISI在9月17日给出的评估,说“GLM-5.3是迄今网络能力最强的开源权重模型,综合水平距美国前沿大约4个月”。 甚至Anthropic自己的研究人员还拿GLM-5.3去检查浏览器,找出了此前未知的漏洞,并在隔离环境里做出了能够读取测试电脑文件的攻击链。 …… 你说你这,你这这这……到底是在骂啊,还是在夸啊[看] 。 好多网友看也是这种感