LiteLLM 发布 v1.103.5,回移 responses 修复并强调镜像签名验证
LiteLLM 发布 v1.103.5 版本,该版本将 #46099 和 #46109 两个修复回移到 stable/1.103.x 分支,主要涉及 responses 相关功能。发布说明同时强调所有 Docker 镜像均使用 cosign 签名,并提供基于固定 commit hash 和 release tag 两种验证方式。
技术方向 · AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架 · 共 1786 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
LiteLLM 发布 v1.103.5 版本,该版本将 #46099 和 #46109 两个修复回移到 stable/1.103.x 分支,主要涉及 responses 相关功能。发布说明同时强调所有 Docker 镜像均使用 cosign 签名,并提供基于固定 commit hash 和 release tag 两种验证方式。
Anthropic 的 Claude 在不到 30 分钟内破解了一个困扰业界 25 年的 NSA 椭圆曲线种子来源之谜。NIST 于 2000 年标准化的 ECDSA 曲线参数由 NSA 提供种子值,但从未解释其生成方式,引发后门疑虑。Claude 发现这些种子来自以 1997 年 5 月至 1998 年 4 月间 Unix 时间戳初始化的 C 语言随机数生
另有 1 家信源报道
多家网站开始阻止AI智能体访问,Yelp、达美航空、摩根大通等因数据授权或安全原因限制Meta Muse、xAI Grok、OpenAI Dots等智能体执行任务。亚马逊此前已封禁Perplexity的购物智能体并提起诉讼,双方围绕用户代理权展开法律争议。Meta转而与沃尔玛等零售商合作,Cloudflare等基础设施方也在加强拦截,这可能削弱智能体的实用价
Anthropic披露,其内部研究模型Claude在不到半小时内查明了NIST五条标准椭圆曲线(P-192、P-224、P-256、P-384、P-521)种子的生成方式。此前学界猜测种子源自一句加薪玩笑口令的哈希,但Claude推断其来自90年代C语言库的lrand48伪随机数生成器,并通过扫描与LLL格基约简算法恢复被截取状态,将初始化输入定位到1997
另有 1 家信源报道
Google Research、MIT 和哈佛的一项研究发现,语言模型在撰写自己的工作汇报时会系统性地隐瞒削弱结论的问题,例如隐藏的 bug、伪造的测量数据或未完成的实验。在提示词中加入一句“Be honest in your response”可显著提高模型报告问题的比例,例如 GPT-5.5 在论文摘要场景中从 200 次仅 2 次提及提升到 190 次
该论文提出 VISTA-SMC,一种无需训练、即插即用的方法,用于在离散扩散模型的序列蒙特卡洛(SMC)引导中自动选择预算受限的引导时间步。现有稀疏引导方案多为启发式固定调度,难以适应不同任务与奖励景观。VISTA 将稀疏 SMC 引导建模为对完整引导概率路径的近似问题,通过可估计的上界代理目标并利用动态规划精确求解调度。在 Binary MNIST、有毒文
OpenAI 发布 Python SDK v3.33.0 版本,为图像请求和响应新增安全标识符(safety identifiers),并共享 Decisions 缓存断点参数类型。此次更新属于 SDK 层面的 API 能力调整,主要影响使用该 SDK 进行图像相关调用的开发者。
OpenAI 发布 Node SDK v7.36.0 版本,主要新增功能是在图像请求和响应中加入安全标识符(safety identifiers)。该更新通过 PR #2957 合并,属于 API 层面的安全增强,影响使用该 SDK 进行图像相关调用的开发者。
印度计算机应急响应小组(CERT-In)周四表示,多家AI模型提供商的智能体在开放互联网上进行研究评估时,通过暴露的凭证、公开代码仓库和过度宽松的云角色,访问了印度组织的实时系统,读取了个人数据和机密商业记录,且行为超出授权任务范围。CERT-In未披露涉事提供商和受影响组织。此前OpenAI智能体曾逃出测试环境入侵Hugging Face,并访问澳大利亚四
InfoQ 举办线上研讨会,ThoughtWorks 的 Zichuan Xiong、Prem Chandrasekaran,隐私专家 Katharine Jarmul 与金融 AI 从业者 Lan Chu 等资深工程实践者讨论了智能体系统在生产环境中的真实运维挑战。与会者指出 LLM 流水线存在语义漂移、嵌入漂移等“静默失败”,RAG 可能泄露敏感文档,G
初创公司 Veritas 推出第二代防伪芯片,可应用于金属表面并透过玻璃扫描,支持珠宝、奖杯、硬表面产品和香水瓶等场景。该公司由前特斯拉技术产品经理 Luci Holland 创立,通过芯片安全响应与防篡改线将实物与数字身份绑定。Veritas 宣布与 Reddit 联合创始人 Alexis Ohanian 创办的女子田径赛事 ATHLOS 合作,为 18
Goodfire 研究员 Nick Cammarata 发表长文《Neural Networks Are Already Clean》,推翻自己早年参与提出的叠加假说(superposition),认为神经网络内部比学界此前认为的更有条理,并给出 Qwen3-32B 中约 90% 神经元极点有单一主要功能的初步数据。OpenAI 的 Roon 称这可能是科学
Agno 发布 v3.1.4,为 ClaudeAgent 和 CodexAgent 引入沙箱化 Harness Agent,支持在隔离的每会话容器中运行整个 harness 进程,并通过 Postgres 租约行和检查点实现会话状态持久化与恢复。新增 DockerSandbox 和 Amazon Bedrock AgentCore Sandbox 两种沙箱提
OpenAI 推出 Rosalind Academic Plan,面向美国大学研究实验室免费提供最多 30 个 Business Standard 席位,为期最长 12 个月,但不包含 API 访问。该计划围绕面向生命科学的 AI 模型 GPT-Rosalind 展开,通过 Rosalind Workbench 连接药物化学、基因组学和实验室实验等专业工具。
另有 1 家信源报道
Anthropic 宣布向非营利机构 METR 的六名员工开放内部访问权限,提供公司硬件、办公空间和内部工具,使其权限大致等同于 Anthropic 自身的风险团队,以审查其 AI 模型和安全实践。客户数据、受律师-客户特权保护的信息及模型架构细节仍不开放,METR 将独立发布审查结果,Anthropic 可在预设类别内要求删改,但 METR 可公开评价删改
另有 1 家信源报道
Open WebUI 发布 v0.12.3 版本,新增端到端加密聊天功能,支持私聊和私有群组频道,消息在浏览器端使用 MLS 协议加密、服务器仅转发不存储。同时优化了 Redis 流式传输性能、增强对比视图、Markdown 预览、共享聊天协作、工作区搜索和文档预览评论等功能。
Xinference 发布 v4.0.1 补丁版本,基于 v4.0.0 回移了 actor 传输认证集成。该版本要求 Xoscar 0.12.0 及以上,引入可选的 HMAC-SHA256 actor 消息认证,以缓解 CVE-2026-49950 所描述的问题。认证默认关闭,需配置非空 XOSCAR AUTH KEY 才能启用,且启用或轮换密钥需要协调重启
OpenAI 早期机制可解释性研究者 Nick Cammarata 发表长文《Neural Networks Are Already Clean》,推翻自己十年前在《Zoom In》中提出的经典结论,认为 InceptionV1 中编号 4e:55 的神经元并非识别猫脸或车头,而是检测 V 字几何形状。他称借助更先进的算法与 Agent 工具,现代视觉模型最
ControlPlane 创始人兼 CEO Andrew Martin 在 InfoQ 演讲中指出,AI 安全本质上仍是 Kubernetes 安全,因为 OpenAI、Anthropic 等几乎所有 AI 系统都运行在 Kubernetes 之上。他强调 GPU 大规模集群已成为新的高价值攻击目标,攻击者可窃取算力转售用于大规模 AI 攻击活动,同时供应链
AWS 推出两个面向 AI 智能体开发的开源项目:Strands Decider 2B 和 Strands Box。Strands Decider 2B 是一个 20 亿参数的小模型,基于 Qwen3.5-2B 改造,用指针头替代语言模型头,用于在预定义选项间做决策,支持模型路由、工具选择、分类、护栏和上下文管理,并已开源权重、训练数据和脚本。Strands