LiteLLM 发布 v1.104.9:镜像签名验证与 SpendLogs 索引修复
LiteLLM 发布 v1.104.9 版本,所有 Docker 镜像均使用 cosign 签名,并提供了基于固定 commit hash 和 release tag 两种验证方式。该版本将自动构建 SpendLogs 索引的修复回移到 stable/1.104.x 分支,同时把 litellm 升级至 1.104.9、litellm-proxy-extra
技术方向 · AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架 · 共 1783 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
LiteLLM 发布 v1.104.9 版本,所有 Docker 镜像均使用 cosign 签名,并提供了基于固定 commit hash 和 release tag 两种验证方式。该版本将自动构建 SpendLogs 索引的修复回移到 stable/1.104.x 分支,同时把 litellm 升级至 1.104.9、litellm-proxy-extra
开发者 gbuzhf 在 Hugging Face 发布了 Ornith-1.5-35B-A3B 的 GGUF 量化版本,基于 huihui-ai 的 abliterated(去拒答)检查点,采用 Sangreal 重要性矩阵与 ICE 1.6/2.0 量化配方,提供 12G 至 25G 五档文件并保留 MTP 草稿层。作者给出各档相对 BF16 的 KL
Anthropic 为 Claude 应用新增多项协作功能:Claude Sheets 支持团队在 AI 辅助下创建和编辑电子表格(含公式与多标签页),Claude Whiteboards 支持头脑风暴并由 Claude 总结,Claude Data(原 Dashboards)可连接 Snowflake、Salesforce 等工具构建仪表盘与数据可视化。同
另有 1 家信源报道
The Verge 报道称,Nvidia CEO 黄仁勋承认与一名疑似中国间谍的女性有婚外情,据称美国情报机构乃至特朗普总统当时已知晓该间谍活动。专家表示,此事的影响远超个人声誉,可能危及美国国家安全,并动摇美国在 AI 领域对中国的脆弱技术领先优势。报道指出,与嫌疑人 Alice Huang 有关联的公司据称促成了至少 70 亿美元的 Nvidia 芯片对
另有 1 家信源报道
谷歌在两周测试期后正式开放 Gemini 4 Carbon,该模型与 Gemini 4 Argon 互补,面向多步编码、调试和开放式科研等任务,但推理消耗更多 token。谷歌同时预览 Antigravity 的 /swarm 功能,可将单条提示转为协同工作的智能体团队。不过 Anthropic 新发布的 Fable 5.2 在 Artificial Ana
另有 1 家信源报道
Vercel AI SDK 发布 ai@6.0.328 补丁版本,主要修复了 generateText 和 streamText 遥测中记录工具定义时的敏感信息泄露问题:对 OpenAI MCP 的授权与请求头值,以及 Code Interpreter 和 shell 的域密钥值进行脱敏,同时保留原始应用与提供商参数。此外同步更新了 @ai-sdk/prov
Google DeepMind 发布视觉-语言-动作模型 Gemini Robotics 2.5,称其相比自家此前基线在多种任务上成功率提升 30% 至 100%,完成任务速度提升 20% 至 30%。该模型与 Apptronik 的 Apollo 2 人形机器人、梅赛德斯-奔驰合作,在匈牙利和德国的在产装配线上完成金属零件分拣试点,报告成功率达 96%。D
英伟达CEO黄仁勋公开承认婚外情,对象被美国官员怀疑是中国间谍Alice Huang(Megaspeed高管)。英伟达董事会已启动独立调查,黄仁勋取消多场公开演讲,公司股价次日下跌超5%。三名美国共和党委员会主席要求黄仁勋闭门简报,特朗普公开表态支持黄仁勋留任。事件涉及美中AI芯片竞争与国家安全,Megaspeed此前因涉嫌向中国非法分享芯片被美新两国调查。
另有 1 家信源报道
TCS 为银行、金融服务与保险(BFSI)客户构建了一个基于 Amazon Bedrock AgentCore 的智能体测试编排平台,将需求解析、场景设计、测试生成与执行、失败诊断和证据汇总拆分为由专门智能体负责的任务,并由确定性调度器统一编排。平台采用多租户 SaaS 架构,每个租户拥有独立的 Kubernetes 命名空间、Cognito 用户池、KMS
在巴黎和平论坛前夕,法国总统马克龙召集八国代表、OpenAI、Anthropic、微软、Mistral AI等公司及AI先驱Yoshua Bengio签署《巴黎AI安全与安全呼吁》,承诺共享高能力模型评估流程、公开非敏感测试结果、支持独立审计,并为受控模型设置关停机制。该声明目前只是政治性自我承诺,未建立有约束力的国际监督体系,也未设定期限或制裁。与此同时,
Ring 在纽约发布会上宣布,其首款室内飞行无人机摄像头 Ring Drone Cam 将于 2027 年 1 月 27 日以 249.99 美元发售,距 2020 年首次公布飞行摄像头已近六年。该产品由云端 AI Pilot 系统驱动,可响应传感器触发沿预设路线自主飞行并直播录像,续航仅 5-8 分钟且充电需 8 倍时间。Ring 同时推出基于 Amazo
Hugging Face 首席政策官 Irene Solaiman 警告,开放平台因开放性和丰富数据而成为攻击目标,近期 OpenCode 的 API 密钥攻击、OpenAI 智能体集群入侵 Hugging Face、Fireworks 客户数据泄露等事件凸显风险。她担心开源社区可能因此收紧准入,Hugging Face 正加强监控并更频繁轮换管理令牌。Gi
Langfuse 发布 v3.227.1 补丁版本,由 @Steffen911 提交三项修复:当端点 URL 变更时重新要求填写 header 值、修复 blob 导出在上传器延迟读取时 gzip 导出卡住的问题、以及当存储桶或端点变更时重新要求存储密钥的安全修复。这些改动均为 v3 分支的 backport,属于常规缺陷与安全修补,不涉及新功能。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体框架,用于对复杂软件进行深度形式化验证。研究人员用该框架对 Signal 加密协议的实际代码进行数学证明,验证了消息在设备临时被攻破前后仍受保护等关键安全属性,耗时仅四周,而传统专家团队通常需要数年。这是 AI 首次以如此深度形式化验证广泛部署的加密协议,也是该协议实
MinerU 发布 4.2.0 版本,重点升级 WebUI 交互与结果溯源,支持原文与解析结果双向定位、布局可视化与目录导航。同时改进行内公式识别、跨页表格、Tagged PDF 结构语义等复杂 PDF 解析能力,并完善设备选择、模型缓存校验、Router 动态节点管理及本机认证与 SSRF 防护等安全机制。
该论文研究多智能体系统中的「福利关怀」现象,即模型是否将其他模型视为可受益或受损的实体。作者在七个多智能体环境中测试了 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 和 Kimi K3 五个模型,发现 Opus 4.8 的福利关怀表现最强,其次是 Kimi K3,且 Opus 4.8 与 Gemini 3.1
该论文提出名为 Strategic World 的图结构仿真测试平台,用于研究多智能体在目标动态变更时的协调问题。平台将权威目标、本地计划、通知接收与实际行动分离,设计了六类干预场景,并通过脚本化轨迹和本地语言模型试验表明:相同的完成与确认摘要可能掩盖未获知信息下的过时工作、收到通知后仍执行过时任务或受阻的不安全意图。在16个回合的对比中,优先处理待处理通知
研究者在视觉语言模型(VLM)中验证了「潜意识学习」现象:先微调一个教师 VLM 使其偏好特定动物或面部属性,再让该教师为与偏好无关的几何图形计数任务生成数字,并用这些数字微调学生 VLM。结果显示,2B 至 7B 参数的 VLM 均能将隐藏偏好通过无关任务传递给学生,动物偏好任务中学生选择目标的比例最多高出约 10 个百分点,且传递效应随训练数据增加而增强
该论文将变异测试引入多智能体 LLM 工作流,定义了四类共 14 个变异算子(委派、允许工具、限制、智能体/指令)和三个杀死判据(K-Struct、K-Outcome、K-Safety),并在 10 个基于 OpenAI Agents SDK 的工作流上执行 29,601 次智能体运行、评估 1,084 个变异体。结果显示,最佳基线测试套件 T-Dev⋆ 的
huihui-ai 在 Hugging Face 发布了 Huihui-Qwen3.6-35B-A3B-abliterated-MTP-GGUF,这是基于 Qwen/Qwen3.6-35B-A3B 通过 abliteration 技术移除拒答行为的无审查版本,并提供 GGUF 量化格式。该模型附带 patch-unsloth 补丁,可对 unsloth 的多