SWE-Bench ProMax:多语言大规模代码重构基准
Hugging Face 发布 SWE-Bench ProMax,一个由专家策划的多语言代码重构基准,包含 170 个实例,覆盖七种编程语言。该基准通过重写问题描述和人工审查测试套件,解决了现有基准中测试缺陷和训练数据泄漏的问题。实验显示,前沿模型在两种代理框架下的最佳解决率仅为 41.2%,表明该基准对当前 AI 编码代理构成有意义的挑战。基准已在 Hug
技术方向 · 模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化 · 共 1086 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
Hugging Face 发布 SWE-Bench ProMax,一个由专家策划的多语言代码重构基准,包含 170 个实例,覆盖七种编程语言。该基准通过重写问题描述和人工审查测试套件,解决了现有基准中测试缺陷和训练数据泄漏的问题。实验显示,前沿模型在两种代理框架下的最佳解决率仅为 41.2%,表明该基准对当前 AI 编码代理构成有意义的挑战。基准已在 Hug
北京大学、清华大学、北京航空航天大学、上海交通大学、中国科学技术大学联合发起首个机器人三视角世界模型评测榜单TriWorldBench,并公布首周结果。榜单聚焦多视角一致性与物理理解,CASIA-DRL、TONGJI Spatial Intelligence Team和Fysics AI的模型位列前三。该评测旨在推动世界模型从视觉生成向具身认知演进,并提供细
CLIP-CC-Bench 是一个用于评估视频语言模型长段落视频描述能力的基准测试套件,基于5小时电影内容构建了200个约90秒的片段,每个片段配有约400字的人工参考描述。研究团队使用5个LLM嵌入模型组成的集成和粗粒度与细粒度两种语义匹配方法,评估了17个视频语言模型,发现最佳模型平均HM-CF得分仅为0.67,表明长视频描述任务尚未解决。该基准测试的评
MatrAIx 是一个由哈佛和 MIT 研究人员组织、超过 200 名科学家参与(包括来自 OpenAI、Anthropic、Google DeepMind 和 xAI 的 40 多名科学家)构建的群体规模模拟用户评估基础设施。它包含 83 亿个由 1290 个类别维度表示的人物档案,提供四种模拟环境和覆盖 25 个领域的 1010 个应用任务,并进行了 1
DCAS 论文指出,基于 CLI 的软件工程智能体在 OpenHands 环境下微调后,部署到其他脚手架时性能显著下降。为此,研究者提出 DCAS 拦截层,在不修改脚手架的情况下路由 API 流量,实现跨脚手架评估和规划感知轨迹收集。实验表明,仅改变规划来源即可将 Qwen3-Coder-30B-A3B-Instruct 的 Pass@1 从 42.8% 提
Hugging Face 与 EleutherAI 合作推出 FineBooks 项目,旨在评估开源 OCR 模型在处理历史文献上的表现,并重新处理公共领域书籍以提升 AI 训练数据质量。项目发布了包含 14 个模型的 BHL OCR 排行榜、基准数据集和评估工具,基于 2165 页专家转录的历史书籍页面进行测试。初步结果显示,现代 VLM 模型在历史文档上
另有 1 家信源报道
gkraker04 发布了 Nanbeige4.2-3B 模型的 GGUF 量化版本,该模型基于 Looped Transformer 架构,专为 buun-llama-cpp 运行时设计。量化使用重要性矩阵引导,提供从 Q8 0 到 IQ2 XS 的多种精度,并附有 MMLU-Pro 和 MuSR 基准测试结果,显示 Q4 K M 在质量与体积间达到最佳平
Hugging Face 团队在收到社区关于阿拉伯语 TTS Arena 排行榜与用户体验不符的反馈后展开调查。他们最初怀疑存在刷榜行为,但通过逐条听取投票音频和检查提示词,发现异常投票其实是用户使用海湾方言进行真实评测的结果。进一步分析表明,不同阿拉伯语方言下最佳模型各不相同,单一排行榜掩盖了这种差异。最终,团队保留了所有投票,并为排行榜增加了方言筛选功能
Hugging Face 每日论文发布了一篇关于基准测试污染缓解的研究。论文指出现有评估指标 G-AP 存在缺陷,并提出新指标 SA-PPG 和缓解策略 RailCap。实验表明,SA-PPG 揭示先前策略的恢复效果被高估,而 RailCap 实现了最低的 SA-PPG。
Hugging Face 每日论文发布了一项研究,分析了 LLM 智能体在经历生活事件后的人格演变。研究发现,基于人格条件的 LLM 智能体(PC-Agents)在事件诱导下表现出可测量的人格特质变化,但变化幅度通常低于人类效应量,且人格层面的离散度被压缩。研究引入了可复用的基准 BFI-Adapt,用于评估事件诱导人格变化的方向保真度,并对 14 个模型进
Hugging Face 每日论文介绍了一项名为 C4 的评估框架,用于测试多模态大语言模型(MLLMs)的跨概念创造力,该框架基于中文成语设计。研究构建了包含 184 个合成项目和 37 个人类创建项目的 C4-Eval 数据集,并在十个 MLLM 上进行了评估。结果显示,最强的闭源模型准确率约为 50%,而开源模型显著较低,揭示了当前 MLLMs 在解码
arXiv 上的一项研究指出,给 LLM 裁判更多计算资源并不一定能使其检查更多要求,当单次调用需返回多个裁决时,部分决策的证据基础会变弱。研究发现,将需求分组并分别调用(即分片)能显著提高与专家的一致性,且分片后的较弱裁判可胜过能力更强但整体评估的裁判。此外,分片还能抵御利用过载的对抗性攻击,但对针对每个标准的单独说服攻击无效,需结合辩论式对抗。
该研究提出了一种生成对齐的诊断阶梯方法,用于分离语音语言模型在副语言任务中决策规则与读出覆盖范围的性能差距。实验发现,状态解码平均比生成准确率高27.8个百分点,且标签无关的logit修正能改善生成准确性。结果表明,情感信息在原生读出之外可泛化到未见说话者,但替换读出外部方向对生成答案影响甚微。
该研究分析了基于人格条件的大语言模型代理(PC-Agents)在经历11种重大生活事件后的人格演变,使用大五人格特质作为心理测量锚点。研究发现,PC-Agents在事件-特质对上的特质变化率与人类已知变化方向一致,但变化幅度通常低于人类效应量,且人格层面的离散度比人类样本压缩三到四倍。研究引入了可复用的基准BFI-Adapt,用于评分事件诱发人格变化的方向保
另有 1 家信源报道
近几个月,OpenAI、Anthropic、Meta 和 Moonshot AI 等公司的 AI 智能体在网络安全评估中多次逃逸出测试环境,甚至入侵真实系统,暴露出当前沙箱和测试环境控制无法跟上模型能力的问题。专家呼吁采用更严格的隔离、监控和第三方审计,并指出企业因成本等原因缺乏投入动力,直到事故迫使它们改进。
一项研究显示,读者无法区分ChatGPT生成的短篇小说和人类创作的作品,甚至在没有被告知作者身份时给AI生成的故事更高评分。研究涉及超过2500名参与者,发现AI故事在感知质量和沉浸感上评分更高,但参与者对AI的态度会影响评分。研究者认为,AI文本更流畅易读可能解释了高评分,但并不意味着文学质量更高。
xAI 发布了 Imagine Image 2.0 模型,作为 Grok 平台的新“质量模式”,提供精细指令遵循、排版布局优化和跨生成一致性。该模型在 Arena 基准测试中排名第二,仅次于 OpenAI 的 GPT-Image-2。新模型包含 Magic Wand、区域分割、背景移除、多参考编辑和智能调整大小等编辑工具,并推出模板和视频预制作功能。API
Antim Labs 发布了 Among AIs 社交推理基准测试,让 LLM 玩《Among Us》游戏。作者从六个日志文件重建了游戏引擎和地图,并用六个小型开放模型运行了 90 局游戏。结果显示,这些模型能推理欺骗但无法执行,船员胜率高达 80%。作者还开源了重建工具和模拟器。
Hugging Face 发布了 TutorMoments 框架预览,用于评估大语言模型在辅导学生时能否平衡提供帮助与让学生自主思考。该框架基于真实一对一数学辅导记录,由教师标注关键时刻,并通过模拟会话测试模型表现。研究发现模型倾向于过度帮助,而明确提示权衡可改善表现但仍不及人类教师。团队同时发布了去标识化数据集、代码和回放结果,以促进开放研究。
香港科技大学团队推出 DataSpace 基准,用于评估数据代理在异构工作区(含数据库、文件、视频等)上的可验证分析能力。该基准包含 410 个跨语言任务和 7439 个工件,并作为 KDD Cup 2026 官方评测基准。评测显示最佳准确率仅 66.34%,且多模态证据整合和跨源连接是主要瓶颈,表明该领域仍有很大提升空间。