返回主题地图

评测与基准

技术方向 · 模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化 · 共 1078 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月23日周五 · 6 条
正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

Foundation4D:面向自动驾驶的统一感知与重建模型

研究团队提出 Foundation4D,一个统一的前馈模型,可从多摄像头行车视频中同时完成几何估计、3D 检测、语义占用预测和高斯重建,共享骨干网络采用因子化时空注意力以高效融合跨摄像头与跨时间信息。团队还构建了数据标注流程并发布 PAI–Foundation4D 基准,包含 1,253 段驾驶片段及稠密深度与语义占用标签。经基准微调后,该模型在 Waymo

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

说声你好要花多少钱:AI智能体通信协议握手开销实证研究

该论文首次对三种主流 AI 智能体通信协议(MCP、A2A、ACP)的握手开销进行实证基准测试,使用官方 SDK 测量往返次数、分阶段延迟、传输字节和 token 成本。研究发现往返次数主导握手成本:在 50ms RTT 下,旧版 MCP 握手需 3 次往返、230ms,而 A2A 仅需 1 次往返、61.0ms。此外,当 LLM 读取对方元数据时,握手成本

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

检测不够:将推理轨迹作为可测试的程序假设

该论文研究在无参考解、无评判模型、无权重更新的条件下,如何验证大语言模型单条推理轨迹的可信度。作者在冻结的 LLaMA-2-7B-chat 上基于 GSM8K 测试发现,静态自检的 AUROC 仅达 0.741,因为 67.1% 的错误轨迹并未包含错误等式;他们提出将轨迹抽象为程序并扰动题目数量的变形探针,71.0% 的测试题可构造有效扰动,但该探针也会误驳

正文结构化主题已通过公开置信门槛
TechCrunch AIAPI 更新

OpenAI 开放 Decisions API,决策模型竞争升温

OpenAI 将其 Decisions API 模型向所有用户开放,进入快速、低成本决策模型市场,与 TypeSafe 的 Jev 模型展开竞争。该 API 基于 ChatGPT Luna 重新配置以提升推理速度、降低成本,在 Box、Datadog、Ramp、Speak 等客户试用中替代 LLM 提升吞吐量,Speak 称操作间隔从 1.4 秒降至 0.1

正文结构化主题已通过公开置信门槛
TechCrunch AI研究

微软MAI-DxO诊断系统复杂病例准确率83%,远超全科医生36%

微软AI部门在《Science》发表研究,其多智能体诊断系统MAI-DxO在模拟复杂病例中正确率达83%,而全科医生单独诊断正确率为36%。微软AI CEO Mustafa Suleyman称这是迈向“医疗超级智能”的一步,并宣布与Mayo Clinic合作训练医疗基础模型、与Beth Israel Deaconess医学中心开展真实临床评估。研究显示提升主

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
The Verge AI研究

微软称其AI诊断工具准确率远超人类医生

微软宣布其AI诊断工具Diagnostic Orchestrator在《Science》发表的研究中表现优于人类医生:在《新英格兰医学杂志》病例上准确率约83%,而普通医生为36%(可查资料)和22%(无资料);在急诊病例上为80%,医生平均47%。该系统由OpenAI的GPT-5驱动,通过多个AI代理协同推理症状、决定检查并给出诊断,微软计划开源其SDBe

另有 1 家信源报道

10月22日周四 · 14 条
正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

SpatialScout:VLM 智能体能否主动探索并构建 3D 场景地图?

研究团队发布 SpatialScout 基准,用于评估视觉语言模型(VLM)智能体在主动物体级 3D 建图任务上的能力。该基准包含 80 个室内场景、3140 个目标物体,要求智能体在有限交互预算下控制相机探索、跨视角关联并估计物体中心坐标。实验显示最强模型 Claude Opus 5.5 平均重叠分数仅 41.71%,IoU 超过 0.9 的目标仅占 3.

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

StreamEval:交互式流式视频生成模型评测基准

研究团队提出 StreamEval,这是首个面向交互式流式视频生成的统一基准,覆盖虚拟人对话、虚拟人表演、世界生成、指令编辑和参考编辑五类任务,包含 300 个时长 15-300 秒的脚本化测试用例,并从任务执行、状态一致性、视觉保真度和视听协调四个维度评估。对 37 个模型的评测显示,高视觉质量与身份保持并不等同于可靠的请求执行或持续的状态一致性,任务执行

正文结构化主题已通过公开置信门槛
量子位模型发布

蚂蚁数科发布决策模型 LingDT-Decision-1.0,准确率超微软等模型

10月22日,蚂蚁数科发布决策模型 LingDT-Decision-1.0,提供 4B 和 27B 两个版本,已在 DTMaaS 平台上线并限时免费体验。该模型专为结构化决策任务设计,在客服、风控、金融等场景测试中相比大语言模型 Token 消耗降低超 90%、响应时效提升 10 倍,并首创原生多选与按序决策(DAG)能力。在 23 项开源评测基准中,其 2

正文结构化主题已通过公开置信门槛
量子位模型发布

星辰开源意图理解模型Xing4.0-29B-Intent

中电信人工智能科技有限公司星辰通用人工智能实验室发布并开源意图理解专用模型 Xing4.0-29B-Intent,同步开放275万条训练语料、模型权重与推理镜像。该模型将意图识别与参数抽取结合,输出结构化 JSON,已在电信万号客服、智能家居音箱等场景应用。官方评测称其在四类信息抽取任务总分58,高于参评通用模型最高49,类别决策总分70领先 Jev 与 G

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
Hugging Face Daily Papers一手来源研究

WildAWM:合成计算机使用智能体环境与任务

研究团队提出 WildAWM,一个完全由开源模型驱动的可扩展流水线,用于合成同时支持 GUI、MCP 服务和 CLI 的可控计算机使用环境与任务,以训练通用计算机使用智能体(CUA)。该流水线通过基于执行的质量门控(异构智能体 rollout、交叉评判一致性检查、反事实探针)保证任务可解、有难度且可可靠验证,共合成 341 个长程环境-任务对,部分需超过 1

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

审计LLM量子代码生成评测:基准饱和与评测器缺陷

该论文对量子代码生成领域的LLM评测进行了系统审计,在五个包含530个任务的基准上评估了15个模型,并提出了新的96任务基准QuantumBenchEval。研究发现QiskitHumanEval-Standard对最强模型已接近饱和(98.7% pass@1),而评测设计缺陷影响巨大:移除提示未指定的检查后,GPT-6 Astra的pass@1从0%升至9

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

SkillEval:用认知诊断模型学习LLM可解释能力画像

研究者提出 SkillEval 评估框架,利用 LLM 的元认知能力从题目中自动发现可解释技能,并借助心理测量学中的认知诊断模型(CDM)估计模型在各技能上的能力。该框架在覆盖 MATH、BBH、GPQA、MuSR、IFEval 五个基准的 3,811 个模型、9,523 道题、3600 万条作答记录上实验,相比传统平均分评估能更准确预测模型在未见题目上的表

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

AI聊天能取代传统搜索吗?基于RAG的现场活动实验证据

研究者开展了一项预注册的激励在线实验,让参与者在从大型现场活动平台抓取的数千个活动目录中搜索,对比传统属性筛选界面(Filter)、基于RAG的生成式AI聊天界面(Chat)以及两者结合的混合界面(Hybrid)。结果显示Chat表现最差,且该结论在gpt-4.1-mini、gpt-5.2、gpt-5.4多个模型下稳健,主要影响开放式探索型用户;Filter

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

Gemma 4 语音编码器冻结权重下的沙特与海湾阿拉伯语识别

该研究探索在不改变 Gemma 4 共享的 305M 参数语音编码器权重的前提下,将其用于沙特与海湾阿拉伯语语音识别。冻结系统仅训练 22.6M 参数的 CTC 读取器,适配系统额外加入 3.1M 低秩适配器与 41.5M 混合 CTC/注意力读取器。结果显示冻结系统在字符错误率上与 2.07B 参数的 Cohere Transcribe Arabic 在六

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

Agent4Sci:前沿智能体能否在真实科学场景中攀登科学高峰?

研究团队提出 Agent4Sci,一个覆盖 11 个科学领域、20 个基准、25 项任务的长期测试平台,用于衡量前沿编程智能体在真实科学机器学习任务上能否超越已发表最优模型。实验显示 Claude Opus、Codex、Gemini CLI 等智能体在所有基准上均取得提升(Claude Opus 平均相对提升 10.4%),但增益主要来自常规 ML 工程技巧

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

VerifierBench:评估LLM智能体生成可执行验证器的基准

该论文提出 VerifierBench,一个用于评估 LLM 智能体生成可执行验证器能力的基准,包含来自六个智能体基准的 222 个任务和 4,993 个隐藏测试用例,并配套六项检查的 Verifier4Verifier 审计流程。在 19 个模型的测试中,归一化平衡准确率仅为 10.6 至 62.1,生成验证器拒绝无效解的能力明显强于接受有效解的能力,大量

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

操纵与否:LLM 交互中的意见动力学

Temple University 的研究者提出一个受控的 LLM–LLM 辩论框架,让两个语言模型角色围绕气候变化归因话题进行 20 轮对话,其中一方被赋予立场并可能被指示去说服对方。研究使用 GPT-6 Luna 和 Gemini 2.5 Flash Lite 组成四种模型配对,同时追踪双方自报立场和对话内行为。结果显示,同模型配对平均缩小意见差距,跨模

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

SSR:通过逐级规模竞速实现智能体 harness 演化

论文提出 Successive Scale Racing(SSR)框架,用于智能体 harness 的自动演化。作者发现,现有方法在扩大演化任务池时性能反而下降,原因是优化过程中证据选择不佳;SSR 通过按质量与覆盖度排序证据组合,并在小算力预算下对候选 harness 进行渐进式竞速筛选来解决该问题。在 SWE-Bench Pro Verified、Dee

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

Fig:自动化多智能体行为诱导器

论文提出 Fig(Finding Interactions in Games),一个面向多智能体系统的自动化行为诱导系统。它接收自然语言描述的目标行为,将其分解为子行为,生成或选择社交博弈游戏,并对游戏引擎、对手、指令和上下文执行单项或组合干预,以诱导合作、欺骗、背叛等行为。在六种测试行为上,模型平均在 45.2% 的回合中尝试目标行为,相比匹配的对照游戏,