谷歌 Gemini 4 Argon 逼近 AI 前沿,但测试方法与数学编码仍存短板
Google DeepMind 发布新前沿模型 Gemini 4 Argon,在 ARC-AGI-3 基准上以 97.5% 的成绩成为继 OpenAI 之后第二家突破 95% 的实验室,仅次于 GPT-6 Astra 的 99.9%。但该成绩依赖使用厂商特定功能的 Provider Adapter Harness 测试环境,在仅允许简单笔记的 Standar
技术方向 · 模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化 · 共 1078 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,在 ARC-AGI-3 基准上以 97.5% 的成绩成为继 OpenAI 之后第二家突破 95% 的实验室,仅次于 GPT-6 Astra 的 99.9%。但该成绩依赖使用厂商特定功能的 Provider Adapter Harness 测试环境,在仅允许简单笔记的 Standar
Grafana Labs 提出将站点可靠性工程中的 SLO 与错误预算方法应用于 AI Agent 行为评估,把幻觉、任务完成度、毒性、成本等行为转化为可测量的 SLI 与 SLO 目标。该方法强调质量是多维的,应分别度量而非合并为单一分数,并通过错误预算消耗来发现 Agent 质量的渐进式漂移。文章同时指出,SLO 的有效性取决于底层评估的准确性,仍需代表
字节跳动 Seed 宣布新成立 Alignment & Preparedness 团队,面向全球招募 10 名研究人员,以加强其模型的安全与对齐能力。团队工作涵盖安全评估体系、预训练到 RL 各阶段的对齐训练、攻防自博弈对抗训练、可监控性与可解释性,以及与高校和第三方机构合作开展前沿安全研究。Seed 表示将提供与前沿模型研究相匹配的算力和资源,长期投入该领
研究者提出 BD-HazardVLM,一个包含 500 张孟加拉国道路场景图像的诊断基准,用于评估视觉语言模型的防御性驾驶推理能力。他们用统一零样本任务定义和结构化输出模式测试了 Qwen2.5-VL-7B、InternVL3-8B 和 MiniCPM-V-4.6。结果显示,二分类危险存在准确率(88.0%-89.2%)与多数类基线(89.0%)基本持平,而
研究者提出 HPCAgent-Bench,一个用于评估代码优化智能体、工具链与技能的开源基准框架,包含 689 个内核,覆盖循环级优化、HPC 代码和机器学习模型三个赛道。框架用 NumPy 统一指定内核并派生 C/Fortran 参考实现,通过外部裁判在隐藏模糊输入上校验正确性并计时,防止智能体作弊。作者还提出干预效能和加权 token 成本两项指标,用于
研究者提出 Idea2Prior,一个基于 PaperArena 的可审计文献检索与排序系统,结合多源发现、身份验证、摘要分面评估、语义引用扩展和联合专家排序。在覆盖 EASY、MEDIUM、HARD 各十个查询的历史对比中,其 Hit@5 为 53.3%,高于 ChatGPT 网页 Deep Research 的 43.3% 和 Gemini 网页 Dee
该论文提出 Orbia,首个系统性评估交互式世界模型 3D 一致性的基准。它通过受控探索与重访,从输入保持、生成内容持久性和 3D 自一致性三个维度进行评测,并构建了涵盖室内外场景的 720 个实例和六种探索-重访协议。研究对 27 个文本、动作和相机条件模型进行了评测,为诊断 3D 不一致性和开发更持久视频世界模型提供系统基础。
论文提出 MetaShare,一个面向开放式自改进智能体的失败感知集体自改进框架。它将每次自修改记录为带符号性能增量的机制级记录,成功与失败分通道检索,并由任务盲审计器补充缺失机制类别、基于嵌入去重。在论文评审、编程、数学评分、机器人奖励设计和金融审计风险五个领域,MetaShare 的中位表现匹配或超过 DGM-Hyperagents,并少用 1.7–2.
来自清华、美团 LongCat、港中文、北大、MBZUAI、上交、华科的研究者提出 WorldCast 基准,用于评估多模态生成模型在多步世界状态预测中的能力。该基准包含 8 个类别共 320 个人工设计案例,评测了 12 个代表性模型。结果显示 GPT-Image-2.5 System 得分 72.8,展现出初步的真实世界视觉状态预测能力,而 Nano B
该论文研究RLVR(可验证奖励强化学习)在域外基准上的增益有多少来自答案格式变化而非实际能力提升。作者用固定提取器重新评分四个已发布的7B SimpleRL基座-RL模型对,发现MMLU、MMLU-Pro和ARC-Challenge上82%的域外多选题增益是格式增益——基座模型本已在文本中给出答案,RL只是把答案移入\boxed{}中,而公开代码的提取器优先
研究团队提出 OmniCompass,一个面向全模态视频定位与理解的整体性基准,通过时序定位、空间定位和问答任务评估视觉-语言与音视频推理能力。该基准包含 OmniCompass-VL 和 OmniCompass-AV 两条评测轨道,共 820 个视频、2460 个实例,并配有 240 个视频、720 个实例的音视频子集,所有实例均经人工多轮质量校验。对 5
Cerebras 博客发文指出,智能体由模型、harness(运行框架)和环境组成,harness 决定模型能看到什么、能执行哪些动作以及结果如何反馈。文章引用论文数据称,同一 Claude Opus 4.5 模型在标准化 SEAL 框架下 SWE-bench Pro 得分为 45.9%,经 Claude Code 运行则达 55.4%,说明基准结果属于模型
Anthropic 宣布向非营利机构 METR 的六名研究员开放员工级访问权限,允许其使用公司笔记本电脑、办公空间和内部工具,独立评估 Anthropic 的模型、安全实践与风险管理。METR 可自行发布评估结果,Anthropic 无权否决,仅可在客户数据、律师特权信息、模型架构等预设范围内要求删减。此举是 Anthropic 三层评估体系中的最高层级,也
Google 发布面向机器人任务的 Gemini 4 Argon 模型,宣称用单一模型覆盖机器人控制、生成交互式 3D 训练环境以及评估训练数据。演示中它可从照片或草图构建仿真环境,让机器人先在虚拟世界练习再部署到真实硬件,例如让 Boston Dynamics Spot 练习投掷易拉罐,并生成超 4500 条训练片段使真实任务成功率从 56% 提升至 75
另有 1 家信源报道
来自ICTS、哈佛、KU Leuven和Google DeepMind等机构的35位研究者发布TheoPhysEval基准,包含50道未发表的理论物理研究题。GPT-6-Astra在OpenAI Codex环境中以98%正确率(49/50)居首,平均每题成本不到3美元;Anthropic Opus 5.5得92%,Gemini 3.8 Flash得68%,开
AWS 在博客中提出「Trust in Depth」框架,主张在可验证的前提下给予 AI 智能体更多自主权,而非依赖人工逐项审批。该框架围绕 Scope、Know、Bound、Observe 四个生命周期阶段构建多层信任,并借助 AWS 已运行十余年的自动推理技术(如 IAM、Nitro Hypervisor、S3 Block Public Access)来
Langfuse 发布 v4.60.0 版本,新增组织级 LLM 连接、基于 ClickHouse 追加式账本的计费单元记录、评估器画廊评分预览、追踪提示缓存命中率展示、自托管出站主机白名单等功能,并修复了 Web UI、OpenTelemetry 映射、查询 AST 类型对齐、认证权限提示等多项问题。该版本主要面向使用 Langfuse 进行 LLM 可观
蚂蚁百灵开源推出Ling-3.1-flash模型,主打真实工作流任务执行,可跨网页、文档、表格和代码环境完成多步骤办公任务。模型采用约560B总参数、每Token激活约25B的混合线性注意力加稀疏MoE架构,上下文窗口达1M,并通过混合精度量化将部署GPU从8卡降至4卡。在GDPVal-AA V2.1办公任务评测中ELO得分1673,Artificial A
前华为小艺大模型负责人唐都钰创办观行数智,提出并押注“主动式物理AI”,即让AI在无明确指令下自主判断何时、如何介入现实事件。团队设计了双模型协同架构ProAgent(StreamingJev负责流式判断、Response Model负责决策执行),并建立自动化数据流程与评测体系ProactiveXBench。据称在介入时效等指标上,其ProAgent已优于
研究者提出 WorldMemBench,一个用于系统评估视频世界模型「世界记忆」能力的基准,包含 260 个测试用例(200 个静态记忆、60 个动态记忆),覆盖人类身份与外观、物体外观与几何、环境内容与几何的保持,以及事件推进与状态持续性。评测九款代表性模型发现,强静态保持能力并不代表可靠的动态状态演化,重复回访会暴露记忆退化。人类研究支持自动指标与人类判