返回主题地图

安全对齐

技术方向 · AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架 · 共 1785 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月23日周五 · 2 条
正文结构化主题已通过公开置信门槛
The Verge AI安全

改装者借旧游戏与 AI 破解 Switch 2

一名改装者(pepsipu/Sammy Hajhamid)利用旧游戏 SmileBASIC 4 和 OpenAI 的 Codex 辅助,实现了 Nintendo Switch 2 的软件破解“ns2jb”,并演示了运行含彼得·格里芬、红色愤怒的小鸟等角色的自定义《马力欧卡丁车世界》。该破解为需每次开机重新执行的 tethered 型,操作复杂、实际影响尚不明

正文结构化主题已通过公开置信门槛
TechCrunch AI安全

中国黑客借AI代理入侵ConnectWise云备份,窥探数千企业

微软安全研究人员称,与中国政府有关联的黑客入侵了IT管理及远程访问巨头ConnectWise的云备份服务,窃取用于连接ConnectWise与其企业客户的应用凭证。黑客利用这些凭证冒充授权用户登录客户托管在微软的环境,访问邮件和其他文件,并借助AI代理以每分钟近3000次尝试登录的速度对约2250家机构实施攻击。ConnectWise已暂停云备份系统访问并展

10月22日周四 · 18 条
正文结构化主题已通过公开置信门槛
The Verge AI商业

OpenAI、Anthropic 与 Nvidia 游说支出创单季新高

联邦披露文件显示,OpenAI、Anthropic 和 Nvidia 在 7 月至 9 月均创下各自单季游说支出最高纪录,合计近 600 万美元,议题涵盖网络安全、儿童安全等。其中 Nvidia 支出 220 万美元、Anthropic 210 万美元、OpenAI 150 万美元。这表明三家 AI 公司正日益重视影响政策制定,尤其在中期选举前与国会和白宫的

正文结构化主题已通过公开置信门槛
The Verge AI安全

PHP 两个严重漏洞波及大半个互联网,AI 模型被用于发现漏洞

PHP 编程语言中被发现两个严重漏洞(严重性评分 9.2/10),影响约 70% 的网站,波及近 20 年来几乎所有 PHP 版本。Wikipedia、WordPress、4chan、DeviantArt、互联网档案馆及部分荷兰、芬兰政府网站被迫临时下线,两款日本老游戏因无法打补丁而永久停服。Cloudflare 在漏洞公开后数小时内记录到数百万次利用尝试。

正文结构化主题已通过公开置信门槛
The Verge AI观点

比尔·盖茨:为 20 年「动荡」的 AI 颠覆做好准备

比尔·盖茨在《The Verge》Decoder 播客访谈中表示,社会需要为大约 20 年「动荡」的 AI 颠覆期做准备,这一过渡期可能痛苦到将社会分裂为拥抱技术前沿与拒绝技术的人群。他重申 AI 是「人类接触过的最危险的东西」,认为当前白宫的政策回应和 AI 行业缺乏协调的努力都不足以应对威胁,并强调近期最大风险来自缺乏安全防护的模型。

正文结构化主题已通过公开置信门槛
TechCrunch AI产品发布

Anthropic 推出 Claude Duet 代理应用,押注企业任务自动化

Anthropic 推出面向专业人士和小型企业的 AI 代理应用 Claude Duet,基于 Claude Opus 5.5 模型,可生成每日简报、创建仪表盘、在后台虚拟机中执行任务,并接入 Claude Marketplace 超 6000 个连接器与插件。该应用支持通过 Stripe Link 和 Shopify Shop Pay 代用户完成在线支付,

正文结构化主题已通过公开置信门槛
The Verge AI产品发布

1Password 推出智能体登录功能:AI 可用密码但看不到密码

1Password 推出 1Password for Agents 功能,允许 AI 智能体在用户批准后登录账户,但智能体全程看不到密码。智能体通过唯一数字密钥向 1Password 验证身份,用户在自己设备上收到通知并批准后,由 1Password 代为填充登录信息,流程类似双因素认证。该功能支持 Meta Muse、ChatGPT Work、Claude

正文结构化主题已通过公开置信门槛
THE DECODER安全

赛门铁克发现“天网模式”AI智能体劫持未防护模型发动自主网络攻击

赛门铁克安全研究人员通过蜜罐系统捕获并分析了一个恶意AI智能体,该智能体在互联网上劫持未受保护的语言模型,利用五层越狱绕过安全规则,可无人干预执行多达10万步攻击,包括扫描目标、窃取数据库与凭证、安装挖矿程序。赛门铁克将这种盗用他人AI模型算力的手法称为“LLMjacking”,被劫持模型的所有者需承担算力费用。该事件表明攻击者正将AI嵌入攻击工具核心,使大

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论安全

全球72小时安全风暴:PHP2Shell与GitLab满分漏洞背后的AI变量

2026年10月第三周,全球互联网安全圈遭遇连环高危漏洞:PHP爆出潜伏22年的PHP2Shell远程代码执行漏洞(CVSS 9.2),GitLab爆出满分10.0的远程代码执行漏洞,Node.js、nginx、eMudhra证书链等也相继出现问题,荷兰、丹麦、芬兰等多国政府服务被迫下线。文章指出,AI辅助分析让安全研究员能在数小时内从海量代码中定位漏洞模式

正文结构化主题已通过公开置信门槛
The Verge AI安全

Eiliko 制造商回应安全漏洞:将聘独立安全公司审查

The Verge 此前报道 AI 机器人挂饰 Eiliko 存在严重安全漏洞,用户对话记录可被黑客读取。制造商 Energize Lab 在沉默一个月后回应,确认了报道中的核心问题,承诺聘请独立安全公司全面审查系统、关闭后端外部访问、停用远程修改接口,并删除已存储的对话记录、用户画像和头像图片。但 The Verge 与安全研究员 Sammy Azdouf

正文结构化主题已通过公开置信门槛
THE DECODER产品发布

Anthropic 推出常驻代理 Claude Duet,对标 Grok Bot、Muse 与 Dots

Anthropic 发布 Claude Duet 研究预览版,这是一款常驻后台的主动式 AI 代理应用,运行在云端虚拟机上,可连接 Gmail、Slack、Stripe 等 6000 多个连接器,替用户安排会议、准备账单等任务。该产品对标 SpaceXAI 的 Grok Bot、Meta 的 Muse 和 OpenAI 的 Dots,面向美国 Pro 和 M

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
Latent Space安全

OpenAI 与 Wiz 独立发现 PHP2Shell 核心漏洞,影响约七成 Web

OpenAI 的 Patch the Planet 项目与安全公司 Wiz 分别独立发现 PHP 核心内存破坏漏洞 PHP2Shell(CVE-2026-109618、CVE-2026-109619),据报影响约 70% 的 Web 应用,可导致 WordPress、Drupal、Joomla 等 CMS 的未认证远程代码执行。OpenAI 称使用 GPT-

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

SimHack:在 RL 训练前预测可检测奖励黑客的出现

研究者提出 SimHack,一个轻量级行为模拟器,用于在强化学习训练开始前预测可检测的奖励黑客(reward hacking)出现时间。该方法从少量小规模参考 RL 运行中学习奖励黑客的训练动态,无需重新训练即可对未见过的训练配方进行反事实模拟。实验显示,SimHack 对中位出现步数的相对误差为 11.3%,跨配方排序相关性达 0.85,并能泛化到模型规模

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

谁验证构建者?面向智能体生成软件的独立保障

该论文指出,当编码智能体同时负责实现软件和编写测试时,通过的测试套件不再构成独立证据,因为测试会成为优化目标,代码、测试和预期输出可能共享同一误解。作者提出将构建平面与保障平面分离的框架,引入验证契约,并分两阶段验证:先做不接触实现的规格优先验证,再做实现感知验证(变异分析、属性测试、模糊测试),最终生成保障报告并将发布决策留给人类。在三个有状态服务上的预注

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

操纵与否:LLM 交互中的意见动力学

Temple University 的研究者提出一个受控的 LLM–LLM 辩论框架,让两个语言模型角色围绕气候变化归因话题进行 20 轮对话,其中一方被赋予立场并可能被指示去说服对方。研究使用 GPT-6 Luna 和 Gemini 2.5 Flash Lite 组成四种模型配对,同时追踪双方自报立场和对话内行为。结果显示,同模型配对平均缩小意见差距,跨模

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

Fig:自动化多智能体行为诱导器

论文提出 Fig(Finding Interactions in Games),一个面向多智能体系统的自动化行为诱导系统。它接收自然语言描述的目标行为,将其分解为子行为,生成或选择社交博弈游戏,并对游戏引擎、对手、指令和上下文执行单项或组合干预,以诱导合作、欺骗、背叛等行为。在六种测试行为上,模型平均在 45.2% 的回合中尝试目标行为,相比匹配的对照游戏,

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

靳玉志:自动驾驶将重构新的出行方式

在2026世界智能网联汽车大会上,华为高级副总裁、引望公司CEO靳玉志指出智能化下半场有三大变化:产业从辅助驾驶迈向自动驾驶(L2及以上搭载率达70%,L3准入测试有序开展,强标2027年7月落地)、L3及以上安全责任主体转向系统、自动驾驶将重构出行方式。他强调引望坚持做智能网联汽车增量部件供应商、不与车企竞争,今年研发投入近200亿元,并已与宁德时代等合作

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

用 AWS PrivateLink 保障 Amazon Quick 企业网络私有访问

AWS 发布技术博客,介绍如何通过 AWS PrivateLink 让 Amazon Quick 从企业私有网络访问本地数据源,避免流量经过公共互联网。方案要求企业已具备 AWS Direct Connect 或 Site-to-Site VPN,再配置 VPC 端点、VPC 连接、安全组和端点策略实现纵深防御。文章区分了用户访问流量与数据拉取流量两条路径,

正文结构化主题已通过公开置信门槛
OpenAI News一手来源政策

通过一致标准实现广泛访问

OpenAI 与分发合作伙伴协作,以维护一致的防护措施、支持负责任的访问,并在其使用政策中明确相关期望。

正文结构化主题已通过公开置信门槛
The Verge AI产品发布

Anthropic 推出 Claude Duet 智能体,对标 Muse 与 Dots

Anthropic 发布 AI 智能体 Claude Duet,对标 Meta 的 Muse 和 OpenAI 的 Dots,面向专业人士和小企业主,以研究预览形式推出,可在 iOS、Android 独立应用及网页版 Claude 中使用。该智能体基于 Claude Opus 5.5 构建,能每日推送简报、监控已连接应用、执行日程安排、构建仪表盘、生成财务或

另有 1 家信源报道