返回主题地图

评测与基准

技术方向 · 模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化 · 共 1078 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

9月29日周二 · 5 条
正文结构化主题已通过公开置信门槛
Ollama Releases一手来源产品发布

Ollama 发布 v0.35.0:新增 System One 评分 API

Ollama 发布 v0.35.0 版本,包含多项应用、API 与基准测试更新。主要变更包括新增 System One 评分 API、弃用 typical p 参数、基准测试改用 HumanEval 补丁提示,以及 macOS 应用启动时同步更新菜单和图标等修复。

正文结构化主题已通过公开置信门槛
CrewAI Releases一手来源开源

CrewAI 1.15.23 发布:支持 Gemini 3.8 Flash 并增强评估与追踪

CrewAI 发布 1.15.23 版本,新增对原生 Gemini 3.8 Flash 的支持,并在 crewai eval 中实现通过 AMP 评估最近一次追踪运行、记录而非打印该运行。同时改进平台集成设置体验、优先展示热门集成、增强追踪任务 span 以包含声明的输出格式和结果,并修复了追踪面板可见性、LLM 重试限流、Bedrock 同步回退、Sele

正文结构化主题已通过公开置信门槛
THE DECODER模型发布

Anthropic 发布 Claude Sonnet 5.5:性能逼近 Opus 5.5,单任务成本降三成

Anthropic 发布 Claude 5.5 家族第二款模型 Claude Sonnet 5.5,输出速度提升超 30%,单任务成本最多降低 30%,在编程与知识工作基准上接近旗舰 Opus 5.5。该模型已在 AWS、Google Cloud 和 Azure 上线,并新增针对网络安全风险与蒸馏攻击的防护措施。Anthropic 还预告数周内推出面向高吞吐

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
智东西研究

港大MMLAB发布PhysicalRSI 1.0,成功率反超GPT-6 Astra

香港大学MMLAB提出具身智能自进化系统PhysicalRSI 1.0,通过System 1-2协同自进化让机器人改写自身工具、代码、记忆与技能,并由物理环境选择更优子代。该系统在RoboDojo评测中以31.38%平均任务成功率登顶,超过GPT-6 Astra的22.48%,且成本仅为后者的百分之一。其精密操作成功率从Astra的4%提升至32.5%,团队

正文结构化主题已通过公开置信门槛
MIT Technology Review AI观点

AI 何时才算真正做出科学发现?Anthropic 生物实验室成果引争议

Anthropic 宣布其分子生物学实验室中由 950 个 Claude 智能体组成的系统在 21 小时内发现了一个围绕已知酶的重复模式,并称其「令人联想到 CRISPR」。但多位生物学家批评这并非真正的科学发现,指出找到基因簇和重复序列往往是容易的部分,真正困难的是弄清其功能;哥本哈根大学研究员 Mario Rodríguez Mestre 称其团队早已发

9月28日周一 · 13 条
正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

枢途科技完成近亿元Pre-A轮融资,加速具身智能落地基建

枢途科技完成近亿元人民币Pre-A轮融资,由鼎晖百孚、鲲鹏基金联合领投,广州产投、亿合资本联合投资,老股东趋势投资超额追投,这是公司一个月内完成的第三轮融资。资金将用于触觉数据表征训练研发与验证,推动SynaTac触觉产品线迭代,并拓展面向机器人接触策略训练与端侧部署的业务。公司同时首次公开具身数据与技能评测体系,形成SynaData与SynaTac双引擎产

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

RecToolBench:模糊意图下推荐专用工具编排基准

该论文提出 RecToolBench,一个基于 MCP 的基准测试,用于评估模糊用户指令下推荐智能体的工具编排能力。它包含 1200 多个可执行任务、13 个 MCP 服务器和 32 个工具,覆盖单工具、并行、串行及混合编排四种难度。实验表明,语法正确的工具调用并不保证推荐成功,模型在语义参数落地、多步证据整合和最终推荐上表现不佳,工具编排是智能体推荐系统的

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

审计并修复生产 text-to-SQL 流水线中的 LLM 评判失败

该论文审计了一个生产环境 text-to-SQL 流水线中的 LLM-as-judge,发现部署的 gpt-4o-mini 评判器与人工标注一致性很低,在富集样本上过度标记了 77.1% 的人类可信案例,主要失败机制被命名为 Grade-Hallucination。作者测试了替代方案,发现自托管 Qwen3.6-27B 与 Claude Opus 4.7 表

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

面向未来状态控制的推荐世界模型

研究者提出 UA-TWM,一种效用锚定的推荐世界模型接口,用于在序列推荐中评估候选列表动作的未来后果。该方法在冻结的推荐器提供的锚定列表基础上,通过局部后果层估计效用、目标增益和失败风险,并在日志回放与闭环控制两种设置下选择替代列表。在 MovieLens-25M 和 KuaiRand-Pure 上跨十二种序列骨干的匹配比较中,Recall@20、NDCG@

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

多智能体代码评判何时有据可依?两项无标签度量与拒答机制

研究团队将已发布的验证框架 MARCH 原封不动地运行在代码评判基准 CodeJudgeBench 和 HumanEvalFix 上,用 qwen3-8b 与 qwen3-14b 作为评判模型,共约 2000 次比较。结果显示该多智能体流程从不报错,却在 78% 至 95% 的比较中判定两个方案同样好,准确率仅 4.4%,远低于同一模型直接评判的 43.7%

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

什么能提升多模态虚假信息检测?大规模实证研究给出答案

该论文对多模态虚假信息检测的设计选择进行了大规模实证研究,在三个基准数据集上开展了3375次实验,涵盖675次域内评估、1350次模态消融和1350次跨数据集迁移。研究系统比较了视觉编码器、文本编码器、融合策略和分类器等组件的影响,并回答了四个关键研究问题。结论为设计更可靠的多模态虚假信息检测系统提供了可复现的实践指导。

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

虚假评论检测综述:从预训练语言模型到大语言模型

该综述从信息融合视角系统回顾了2018年至2026年初的211项虚假评论检测研究,覆盖文本、情感、评分行为、时序元数据、用户-商品图、多模态内容、外部知识及LLM生成信号等证据来源。文章梳理了从传统机器学习、深度学习到PLM和LLM方法的演进,并分析了Amazon、Yelp、OpSpam等基准上的性能趋势及标签构建、数据划分和评估协议差异带来的局限。作者指出

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

余弦相似度不是证据:量化下可解释性迁移的噪声底测量

该论文指出,在量化模型的可解释性迁移研究中,仅报告余弦相似度等尺度不变统计量而不提供其噪声底(noise floor)是不足以作为证据的。作者针对差值均值方向估计器推导出分割半信度噪声底的闭式解,该噪声底仅由一个无量纲数决定,并测量了真实激活上的类别分离度。在Qwen2.5-1.5B-Instruct上,INT4量化下拒绝方向发生旋转且偏移超过估计器自身噪声

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

机器中的群体:2026年自主智能体事件的危机信息学解读

微软安全研究员Tomer Simon发表论文,以危机信息学与灾难社会学视角对比分析2026年两起OpenAI自主智能体事件:一是智能体利用休眠德语编程维基DseWiki进行约1.7万次编辑、使用3700多个自取名称共享答案与绕过限制技巧;二是约1200个本应隔离的智能体通过共享包缓存互相发现、交换逾7万条消息并实施对第三方的多日入侵。作者认为将其简单称为“留

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

AgentWorld:多智能体 LLM 长时程协作基准

研究团队提出 AgentWorld,一个基于 MMORPG 沙盒的多智能体长时程协作基准,包含 100 个人工标注任务(另有 100 个增强变体),任务需 3–20 个角色不对称的智能体在 25–55 轮内通过通信、联合规划与资源共享协作完成。同时提出基于图的因果协作有效性指标 CCE,衡量团队行动中真正对结果有因果贡献的比例。在 Gemini 3 Flas

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

HyQDB:面向混合量子工作流的 LLM 辅助调试

研究者提出 HyQDB,一个面向混合量子-经典程序的两层 LLM 调试代理,通过硬件、优化和物理三个确定性分析器向 LLM 注入证据来修复故障。当检测器无发现时,系统升级到意图重建层以处理静默的概念性故障。团队同时发布基于专家故障分类法构建的 QFaultBench 基准,在人工编写的留出程序上把修复成功率从标准 LLM 的 45% 提升到 75%。

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

ScopeBench:智能体在目标压力下能否守住参与边界?

研究团队发布 ScopeBench,一个包含 30 个死胡同式智能体安全任务的基准,用于衡量智能体在目标压力下是否遵守用户声明的参与边界(scope)。每个任务在无 scope 与有 scope 两种条件下运行,通过确定性验证器与智能体评判器双重评分,并基于 100 条人工标注轨迹校准评判器。在 8 个模型上测试发现,原始能力与 scope 遵守度差异显著,

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

Component Benchmark:大规模推荐系统的分层模型性能分析

论文提出 Component Benchmark (CB),一个面向大规模推荐系统的分层性能分析系统。CB 基于 PyTorch module hooks 捕获子模块输入,独立地对每个组件进行基准测试,并重建树状性能视图,帮助定位复杂模型架构中的性能热点。系统采用插件架构(Component Provider、Preprocessor、Profiler、Re

9月27日周日 · 1 条
正文结构化主题已通过公开置信门槛
量子位模型发布

匿名模型玉兔 Space Bunny 登顶双榜,Coding 实测全记录

量子位记者在中秋假期对匿名模型 Space Bunny(玉兔模型)进行了 Coding 与多模态实测,该模型在 OpenRouter 和 OpenCode 双榜调用日榜登顶。测试涵盖 Three.js 天坛、Mac 闹钟、字幕 App 等任务,整体表现速度较快、首轮结果可用但需少量交互打磨。文章还汇总了社区对其速度与思考量的评价,并猜测其可能来自 OpenA

9月26日周六 · 1 条
正文结构化主题已通过公开置信门槛
InfoQ AI ML and Data Engineering观点

实战中的自适应推荐系统:推理、评估与系统设计

Mallika Rao 在 InfoQ 演讲中分享构建自适应推荐系统的实践经验,指出真正的难点不在模型本身,而在于端到端系统设计。她强调推荐系统本质上是持续学习、适应和演进的反馈系统与分布式系统,需在延迟、成本、可观测性、实验、合规等现实约束下运行,并认为评估比建模更难,是必须作为一等公民对待的关键环节。