返回主题地图

安全对齐

技术方向 · AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架 · 共 1783 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

11月11日周三 · 9 条
正文结构化主题已通过公开置信门槛
LiteLLM Releases一手来源开源21

LiteLLM 发布 v1.104.9:镜像签名验证与 SpendLogs 索引修复

LiteLLM 发布 v1.104.9 版本,所有 Docker 镜像均使用 cosign 签名,并提供了基于固定 commit hash 和 release tag 两种验证方式。该版本将自动构建 SpendLogs 索引的修复回移到 stable/1.104.x 分支,同时把 litellm 升级至 1.104.9、litellm-proxy-extra

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源22

Ornith-1.5-35B-A3B 去审查版 ICE GGUF 量化发布

开发者 gbuzhf 在 Hugging Face 发布了 Ornith-1.5-35B-A3B 的 GGUF 量化版本,基于 huihui-ai 的 abliterated(去拒答)检查点,采用 Sangreal 重要性矩阵与 ICE 1.6/2.0 量化配方,提供 12G 至 25G 五档文件并保留 MTP 草稿层。作者给出各档相对 BF16 的 KL

正文结构化主题已通过公开置信门槛
THE DECODER产品发布26

Anthropic 为 Claude 增加插件、表格、白板等协作功能

Anthropic 为 Claude 应用新增多项协作功能:Claude Sheets 支持团队在 AI 辅助下创建和编辑电子表格(含公式与多标签页),Claude Whiteboards 支持头脑风暴并由 Claude 总结,Claude Data(原 Dashboards)可连接 Snowflake、Salesforce 等工具构建仪表盘与数据可视化。同

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
The Verge AI安全22

黄仁勋承认与疑似中国间谍有婚外情,或危及美国AI领先地位

The Verge 报道称,Nvidia CEO 黄仁勋承认与一名疑似中国间谍的女性有婚外情,据称美国情报机构乃至特朗普总统当时已知晓该间谍活动。专家表示,此事的影响远超个人声誉,可能危及美国国家安全,并动摇美国在 AI 领域对中国的脆弱技术领先优势。报道指出,与嫌疑人 Alice Huang 有关联的公司据称促成了至少 70 亿美元的 Nvidia 芯片对

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
THE DECODER模型发布43

Gemini 4 Carbon 正式开放,谷歌预览智能体集群功能

谷歌在两周测试期后正式开放 Gemini 4 Carbon,该模型与 Gemini 4 Argon 互补,面向多步编码、调试和开放式科研等任务,但推理消耗更多 token。谷歌同时预览 Antigravity 的 /swarm 功能,可将单条提示转为协同工作的智能体团队。不过 Anthropic 新发布的 Fable 5.2 在 Artificial Ana

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
Vercel AI SDK Releases一手来源安全26

Vercel AI SDK 6.0.328 修复遥测敏感信息泄露

Vercel AI SDK 发布 ai@6.0.328 补丁版本,主要修复了 generateText 和 streamText 遥测中记录工具定义时的敏感信息泄露问题:对 OpenAI MCP 的授权与请求头值,以及 Code Interpreter 和 shell 的域密钥值进行脱敏,同时保留原始应用与提供商参数。此外同步更新了 @ai-sdk/prov

正文结构化主题已通过公开置信门槛
THE DECODER模型发布19

DeepMind 发布 Gemini Robotics 2.5,奔驰产线试点分拣成功率达 96%

Google DeepMind 发布视觉-语言-动作模型 Gemini Robotics 2.5,称其相比自家此前基线在多种任务上成功率提升 30% 至 100%,完成任务速度提升 20% 至 30%。该模型与 Apptronik 的 Apollo 2 人形机器人、梅赛德斯-奔驰合作,在匈牙利和德国的在产装配线上完成金属零件分拣试点,报告成功率达 96%。D

正文结构化主题已通过公开置信门槛
TechCrunch AI商业22

英伟达CEO黄仁勋承认婚外情,对象疑为中国间谍

英伟达CEO黄仁勋公开承认婚外情,对象被美国官员怀疑是中国间谍Alice Huang(Megaspeed高管)。英伟达董事会已启动独立调查,黄仁勋取消多场公开演讲,公司股价次日下跌超5%。三名美国共和党委员会主席要求黄仁勋闭门简报,特朗普公开表态支持黄仁勋留任。事件涉及美中AI芯片竞争与国家安全,Megaspeed此前因涉嫌向中国非法分享芯片被美新两国调查。

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源产品发布28

TCS 基于 Amazon Bedrock AgentCore 构建智能体测试编排平台

TCS 为银行、金融服务与保险(BFSI)客户构建了一个基于 Amazon Bedrock AgentCore 的智能体测试编排平台,将需求解析、场景设计、测试生成与执行、失败诊断和证据汇总拆分为由专门智能体负责的任务,并由确定性调度器统一编排。平台采用多租户 SaaS 架构,每个租户拥有独立的 Kubernetes 命名空间、Cognito 用户池、KMS

11月10日周二 · 11 条
正文结构化主题已通过公开置信门槛
THE DECODER政策8

八国与顶级AI实验室在巴黎宣言中同意关停机制

在巴黎和平论坛前夕,法国总统马克龙召集八国代表、OpenAI、Anthropic、微软、Mistral AI等公司及AI先驱Yoshua Bengio签署《巴黎AI安全与安全呼吁》,承诺共享高能力模型评估流程、公开非敏感测试结果、支持独立审计,并为受控模型设置关停机制。该声明目前只是政治性自我承诺,未建立有约束力的国际监督体系,也未设定期限或制裁。与此同时,

正文结构化主题已通过公开置信门槛
The Verge AI产品发布13

Ring 室内 AI 无人机摄像头 2027 年发售,售价 249.99 美元

Ring 在纽约发布会上宣布,其首款室内飞行无人机摄像头 Ring Drone Cam 将于 2027 年 1 月 27 日以 249.99 美元发售,距 2020 年首次公布飞行摄像头已近六年。该产品由云端 AI Pilot 系统驱动,可响应传感器触发沿预设路线自主飞行并直播录像,续航仅 5-8 分钟且充电需 8 倍时间。Ring 同时推出基于 Amazo

正文结构化主题已通过公开置信门槛
TechCrunch AI安全12

Hugging Face高管警告:网络攻击或使开源AI不再开放

Hugging Face 首席政策官 Irene Solaiman 警告,开放平台因开放性和丰富数据而成为攻击目标,近期 OpenCode 的 API 密钥攻击、OpenAI 智能体集群入侵 Hugging Face、Fireworks 客户数据泄露等事件凸显风险。她担心开源社区可能因此收紧准入,Hugging Face 正加强监控并更频繁轮换管理令牌。Gi

正文结构化主题已通过公开置信门槛
Langfuse Releases一手来源开源15

Langfuse 发布 v3.227.1 修复导出与安全问题

Langfuse 发布 v3.227.1 补丁版本,由 @Steffen911 提交三项修复:当端点 URL 变更时重新要求填写 header 值、修复 blob 导出在上传器延迟读取时 gzip 导出卡住的问题、以及当存储桶或端点变更时重新要求存储密钥的安全修复。这些改动均为 v3 分支的 backport,属于常规缺陷与安全修补,不涉及新功能。

正文结构化主题已通过公开置信门槛
Google DeepMind News一手来源研究13

Google DeepMind 推出 AlphaProof Code,深度验证 Signal 协议代码

Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体框架,用于对复杂软件进行深度形式化验证。研究人员用该框架对 Signal 加密协议的实际代码进行数学证明,验证了消息在设备临时被攻破前后仍受保护等关键安全属性,耗时仅四周,而传统专家团队通常需要数年。这是 AI 首次以如此深度形式化验证广泛部署的加密协议,也是该协议实

正文结构化主题已通过公开置信门槛
MinerU Releases一手来源产品发布24

MinerU 4.2.0 发布:升级 WebUI 溯源与 PDF 解析

MinerU 发布 4.2.0 版本,重点升级 WebUI 交互与结果溯源,支持原文与解析结果双向定位、布局可视化与目录导航。同时改进行内公式识别、跨页表格、Tagged PDF 结构语义等复杂 PDF 解析能力,并完善设备选择、模型缓存校验、Router 动态节点管理及本机认证与 SSRF 防护等安全机制。

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究10

多智能体系统中的福利关怀

该论文研究多智能体系统中的「福利关怀」现象,即模型是否将其他模型视为可受益或受损的实体。作者在七个多智能体环境中测试了 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 和 Kimi K3 五个模型,发现 Opus 4.8 的福利关怀表现最强,其次是 Kimi K3,且 Opus 4.8 与 Gemini 3.1

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究10

计划变更时:动态多智能体协调的战略世界测试平台

该论文提出名为 Strategic World 的图结构仿真测试平台,用于研究多智能体在目标动态变更时的协调问题。平台将权威目标、本地计划、通知接收与实际行动分离,设计了六类干预场景,并通过脚本化轨迹和本地语言模型试验表明:相同的完成与确认摘要可能掩盖未获知信息下的过时工作、收到通知后仍执行过时任务或受阻的不安全意图。在16个回合的对比中,优先处理待处理通知

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究10

视觉语言模型中的潜意识学习

研究者在视觉语言模型(VLM)中验证了「潜意识学习」现象:先微调一个教师 VLM 使其偏好特定动物或面部属性,再让该教师为与偏好无关的几何图形计数任务生成数字,并用这些数字微调学生 VLM。结果显示,2B 至 7B 参数的 VLM 均能将隐藏偏好通过无关任务传递给学生,动物偏好任务中学生选择目标的比例最多高出约 10 个百分点,且传递效应随训练数据增加而增强

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究10

多智能体工作流的变异测试

该论文将变异测试引入多智能体 LLM 工作流,定义了四类共 14 个变异算子(委派、允许工具、限制、智能体/指令)和三个杀死判据(K-Struct、K-Outcome、K-Safety),并在 10 个基于 OpenAI Agents SDK 的工作流上执行 29,601 次智能体运行、评估 1,084 个变异体。结果显示,最佳基线测试套件 T-Dev⋆ 的

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源10

huihui-ai 发布 Qwen3.6-35B-A3B 去审查 GGUF 版本

huihui-ai 在 Hugging Face 发布了 Huihui-Qwen3.6-35B-A3B-abliterated-MTP-GGUF,这是基于 Qwen/Qwen3.6-35B-A3B 通过 abliteration 技术移除拒答行为的无审查版本,并提供 GGUF 量化格式。该模型附带 patch-unsloth 补丁,可对 unsloth 的多