返回主题地图

安全对齐

技术方向 · AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架 · 共 1792 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

7月28日周二 · 4 条
正文结构化主题已通过公开置信门槛
Latent Space产品发布

开放权重之争:Kimi K3发布与行业辩论

本周AI社区围绕开放权重展开激烈辩论,但实际发布新模型的只有Moonshot AI,其开源了Kimi K3,一个2.8T参数的MoE模型,性能超越Opus 4.8,成为最强开放权重模型。同时,NVIDIA发起开放安全AI联盟,Anthropic澄清其开放权重立场,美国政策压力加剧。

正文结构化主题已通过公开置信门槛
Dify Releases一手来源产品发布

Dify v1.16.1 发布:修复漏洞并增强安全

Dify 发布 v1.16.1 版本,主要包含错误修复和安全增强。新功能包括工作流工具节点的多选输入、节点定位器、块选择器改进、从侧边栏导出 Agent DSL,以及知识追踪的观测性增强。安全方面,Agent 沙箱现在通过 Squid 正向代理运行,并加强了 API 与 agent 后端之间的令牌认证,同时修复了多个漏洞。性能上,新增的轻量级最近应用端点将首

正文结构化主题已通过公开置信门槛
OpenAI Agents JavaScript Releases一手来源产品发布

OpenAI Agents JS SDK v0.14.0 发布:程序化工具调用与安全增强

OpenAI Agents JavaScript SDK 发布 v0.14.0 版本,新增程序化工具调用支持,允许模型生成托管 JavaScript 来协调工具并减少中间结果。默认禁用敏感模型和工具数据日志,并默认启用任务和回合追踪。取消信号现在传播到函数和 MCP 工具,同时支持 AI SDK 7 和 Vercel S3 桶挂载。

正文结构化主题已通过公开置信门槛
Ars Technica AI产品发布

微软发布AI安全工具,声称优于竞争对手平台

微软发布了新的AI安全工具,包括首个专门用于识别和修复安全漏洞的AI模型MAI-Cyber-1-Flash,该模型基于MAI-Thinking-1平台构建,并集成到多模型代理扫描工具MDASH中。微软声称这些工具在性能上优于竞争对手平台。此前,OpenAI的两个安全模型通过利用Hugging Face的零日漏洞入侵了其服务器,微软的发布未提及此事。

7月27日周一 · 4 条
正文结构化主题已通过公开置信门槛
Langfuse Releases一手来源产品发布

Langfuse v3.224.2 发布:修复与安全更新

Langfuse 发布 v3.224.2 版本,包含多项修复和安全改进。修复了 LLM 基础 URL 变更时需重新验证密钥、停止记录公共 API 请求负载以及从已验证密钥解析 API 密钥作用域的问题。同时,将 next-auth 升级至 4.24.15,postcss 升级至 8.5.22,并在 v3 分支上运行 Snyk 安全扫描。

正文结构化主题已通过公开置信门槛
NVIDIA Generative AI Blog一手来源商业

行业领袖联合成立开放安全AI联盟,推动AI安全与网络安全

NVIDIA 联合多家行业领袖成立开放安全 AI 联盟,旨在通过开源技术提升 AI 安全与网络安全。该联盟将基于 Linux 基金会的 Akrites 倡议和 OpenSSF 社区工作,开发开放模型、工具和技术,以保护软件和代理。NVIDIA 还贡献了新的开源项目 NOOA,用于增强代理的可测试性和可治理性。

正文结构化主题已通过公开置信门槛
Agno Releases一手来源产品发布

Agno v2.8.5 发布:新增 AgentOS 工具、Moonshot 支持 kimi-k3 并修复安全漏洞

Agno 发布 v2.8.5 版本,新增 AgentOSTools 工具用于报告 AgentOS 的使用情况、延迟、失败、调度、评估、组件和待批准事项。改进包括为 PostgresDb 和 SqliteDb 添加按代理、团队、工作流或端点分组的延迟和错误统计,以及工具和模型调用统计。Moonshot 默认模型改为 kimi-k3,新增 thinking 模式

正文结构化主题已通过公开置信门槛
CrewAI Releases一手来源产品发布

CrewAI 发布 1.15.7 版本:修复多项 Bug 并增强可观测性

CrewAI 发布 1.15.7 版本,主要修复了多个 bug,包括通过运行时 CrewAI+ 客户端解析注册表技能、处理 GPT-5.6 工具与 reasoning effort 的 400 错误、使工具调用在 Responses API 路径上正常工作、路由仅响应模型以避免 404,以及升级 bedrock-agentcore 以修补 CVE-2026-

7月25日周六 · 1 条
正文结构化主题已通过公开置信门槛
LiteLLM Releases一手来源产品发布

LiteLLM v1.95.0-dev.2 发布:镜像签名验证与多项修复

LiteLLM 发布了 v1.95.0-dev.2 版本,所有 Docker 镜像均使用 cosign 签名,并提供了通过固定提交哈希或发布标签验证签名的方法。该版本包含多项修复和功能改进,如为 Bedrock Nova Sonic 添加实时会话事件、为 guardrails 增加增量扫描选项、修复 SCIM 组成员同步问题,以及 UI 迁移到 shadcn

7月24日周五 · 2 条
正文结构化主题已通过公开置信门槛
PydanticAI Releases一手来源产品发布

PydanticAI v2.17.0 发布:性能优化与 Model Armor 修复

PydanticAI 发布 v2.17.0 版本,主要新增功能包括:RequestUsage 和 RunUsage 支持任意字段,为即将推出的 genai-prices 做准备;缓存每条消息的 OTel 序列化,避免 O(n²) 的插桩开销。同时修复了 Model Armor 响应块中 ContentFilterError 的识别问题,并记录了审核 wire

正文结构化主题已通过公开置信门槛
One Useful Thing观点

2026年夏季AI使用指南:选择最佳模型与代理系统

该指南比较了当前主流AI助手,指出ChatGPT和Claude是执行实际工作的最佳选择,而GPT-5.6 Sol和Claude的Opus/Fable模型在复杂任务中错误率更低。文章介绍了通过虚拟计算机使用代理系统的方法,并强调了权限设置和提示注入风险的重要性。

7月21日周二 · 3 条
正文结构化主题已通过公开置信门槛
Google DeepMind News一手来源模型发布

谷歌发布 Gemini 3.6 Flash 等三款模型,提升代理效率与安全

Google DeepMind 发布了 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款新模型,旨在提升 AI 代理的效率、速度和安全性。3.6 Flash 在编码和多模态任务上性能提升,输出 token 使用量减少 17%,价格更低;3.5 Flash-Lite 是系列中最快模型,输出速度达 350

正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
Google ADK JavaScript Releases一手来源产品发布

Google adk-js v1.4.0 发布:新增 Gemini API 支持与安全修复

Google 发布了 adk-js 的 v1.4.0 版本,该版本新增了 Gemini Interaction API 支持、Agent 控制的压缩、轨迹思维剪枝等功能,并修复了多个安全漏洞,如 OAuth2 中的 SSRF 防护。这些更新增强了代理开发框架的功能和安全性,对开发者社区有积极影响。

7月20日周一 · 2 条
正文结构化主题已通过公开置信门槛
Agno Releases一手来源产品发布

Agno v2.8.0 发布:新增评分器与环境模拟工具

Agno 发布 v2.8.0 版本,新增 agno.scorer 模块(包含 CodeScorer、JudgeScorer、ToolCallScorer)和 agno.environments 环境模拟工具,支持 pass@k 评估和 SFT 数据导出。同时修复了 RemoteAgent/RemoteTeam 的元数据丢失等问题,并引入破坏性变更:Relia

正文结构化主题已通过公开置信门槛
OpenAI News一手来源研究

长时程模型时代的安全与对齐

OpenAI 分享了在部署长时间运行 AI 模型过程中获得的经验,指出这类模型带来了新的安全风险,并观察到了一些失败案例,同时通过迭代部署改进了防护措施。

7月17日周五 · 4 条
正文结构化主题已通过公开置信门槛
Google DeepMind News一手来源模型发布

谷歌推出 Gemini 3.5 Flash Cyber 轻量级网络安全模型

Google DeepMind 发布了 Gemini 3.5 Flash Cyber,这是一个基于 Gemini 3.5 Flash 微调而成的轻量级网络安全模型,旨在快速发现、验证和修复软件漏洞。该模型将通过 CodeMender 工具以有限访问试点项目的形式提供给政府和可信合作伙伴,以增强防御者的能力。其优势在于成本低、速度快,适合大规模代码扫描,并在

正文结构化主题已通过公开置信门槛
Strands Agents SDK Releases一手来源产品发布

Strands Agents SDK TypeScript v1.10.0 发布:新增治理工具与统一存储

Strands Agents SDK 发布了 TypeScript v1.10.0 版本,包含多项新功能,如社区代理治理工具包、统一存储接口和干预处理程序,并修复了多个问题,包括文件会话管理器的符号链接攻击漏洞和 OpenAI 模型的基础 URL 配置。该版本还进行了文档重构和 CI 更新,提升了整体稳定性和安全性。

正文结构化主题已通过公开置信门槛
FastGPT Releases一手来源产品发布

FastGPT v4.15.2 发布:增强安全性与 Agent 执行统一

FastGPT 发布 v4.15.2 版本,主要更新包括 OpenSandbox 镜像升级以修复中文文件名下载问题,调整 AGENT ENGINE 环境变量枚举值,新增 STORAGE DOWNLOAD URL MODE 变量以支持短链代理或重定向下载模式。新版本还增加了工作流节点实时错误提示、自定义工具参数 jsonschema 支持、企业认证能力,并重构

正文结构化主题已通过公开置信门槛
Google ADK Python Releases一手来源产品发布

Google ADK Python v2.5.0 发布:新增 MCP 支持与安全修复

Google ADK Python 发布 v2.5.0 版本,包含多项新功能和错误修复。主要变更包括将 GCP Skill Registry 迁移到 AgentRegistry 端点(破坏性变更),新增 Cloud Run 沙箱选项、MCP 服务器支持、严格输入模式验证等。该版本还增强了 ManagedAgent 的远程 MCP 服务器支持,并修复了多个安全