学习蛋白质折叠能否泛化到更广泛的推理?
研究者构建了 FoldingCorpus 蛋白质问答数据集与 Fold2Reason 后训练方法,通过离散结构答案和连续 3D 几何两种信号进行训练。在 FoldBench 上,Fold2Reason 的结构预测得分达到 Qwen3.5-9B 的 2.7 至 3.5 倍,并在空间、图、科学和通用推理等全部 10 个基准上均有提升,宏平均准确率从 45.09%
技术方向 · 模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化 · 共 1078 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
研究者构建了 FoldingCorpus 蛋白质问答数据集与 Fold2Reason 后训练方法,通过离散结构答案和连续 3D 几何两种信号进行训练。在 FoldBench 上,Fold2Reason 的结构预测得分达到 Qwen3.5-9B 的 2.7 至 3.5 倍,并在空间、图、科学和通用推理等全部 10 个基准上均有提升,宏平均准确率从 45.09%
研究者基于模式生物数据库 dictyBase 构建了一个面向盘基网柄菌(Dictyostelium)的文献检索基准,包含策展人编写的生物查询、对应的 PubMed 文章及结构化基因注释。研究考察了交叉编码器重排序、基因感知查询扩展以及摘要与全文检索三种因素,发现重排序和基因感知查询扩展能选择性提升检索效果,全文分块在摘要缺失证据时显著提升召回与排序表现。数据
Alaya Lab 联合东京大学等机构提出 EditHero,一个面向长程部件级 3D 编辑与 vibe modeling 的基准。该基准通过数据引擎在分割后的宿主物体上执行 add、remove、replace、retexture 四种操作并记录 JSON,经人工审核后包含 457 条编辑链、2755 次编辑、252 个物体,每条链最多 30 轮。作者在自
该研究系统评估了21种提示策略对LLM生成代码能效的影响,并在10个开源与专有模型上测试了其中8种策略,覆盖Python和C++。结果显示,相比基线提示,这些策略可使Python代码能耗最多降低25%、C++最多降低17%;模型层面,Granite-4.0-H-Small的Python能耗降低达50%、C++达56%。研究强调应将能效纳入LLM代码生成的评估
论文提出 MIRROR,一种面向 LLM 多智能体系统(LLM-MAS)通信层的完整性原语,用于防御 Agent-in-the-Middle(AiTM)攻击。MIRROR 将同一规范化载荷复制到多条逻辑路由,仅当严格多数路由报告相同摘要时才接受消息,其安全性完全依赖诚实路由占多数的假设,而非无密钥哈希本身。在 MMLU、HumanEval、MBPP 及 Me
研究者发布 HakemBench,一个土耳其语「类型化决策」基准,包含 2,346 个条目、4,275 道选择题/是非题/评分题,覆盖事实核查分流、教育、护栏、法律路由、内容审核、垃圾邮件与钓鱼、客户支持七个赛道,采用 CC BY 4.0 完全开放。其评分工具同时衡量决策质量(宏 F1)、校准度(归一化 Brier 分数)与选择性自动化(归一化广义风险-覆盖
研究者提出 WebUIProof,一个面向 WebUI 代码生成的执行导向基准,用结构化规格和可执行交互测试替代自由提示与静态检查,覆盖通用 WebUI 与 3D 交互模拟两类任务,共 219 个任务和约 3000 条交互测试。其 UI-agent 执行框架在无头浏览器中通过 plan-act-observe 循环定位 DOM、执行点击/输入等操作并验证断言
该论文提出 SymCE,一个包含 4,707 个假数学猜想及逐定理 Python 验证器的确定性反例生成环境,验证器同时充当强化学习奖励函数。作者发现仅用反例数据做 SFT 会导致「模仿陷阱」,使模型识别真定理的能力从 0.27 崩溃至 0.00,而基于验证器的 RLVR 可修复该问题并提升至 0.66。训练后的 Qwen3-4B 在域内反例任务上超越所有评
研究者提出 XiangqiBench,一个可执行的中国象棋基准,用于闭环评估 LLM 智能体:从 119 个有引擎或仅将军搜索支持的战术残局出发,智能体需执红方对抗引擎防守方并完成将死。研究记录了 12 个前沿 LLM 在两种观察协议下的 8,568 条多轮轨迹,发现三种看似胜任的信号均高估闭环成功率:转换差距(26.1% 走对参考首步但仅 13.9% 获胜
该研究对固定YOLOv8s行人检测器在PIE和JAAD两个驾驶数据集上的事后解释进行审计,采用基于ROI的D-Deletion、冻结置信度三分位、秩检验、bootstrap区间和Holm校正。结果显示,基于删除的忠实度与解释时的检测强度强耦合,Spearman相关性使按置信度分层的朴素比较不可靠;在固定区间内控制检测强度后,D-RISE忠实度在中心范围仍具域
研究者提出 SimuVerity,一个包含 101 个文本到可执行 Simulink 模型生成任务的基准,覆盖十个工程领域,每个任务配有可执行系统画像和四类原生仿真场景。其分层评估器先检查交付、可执行性与工程合格性,再从准确度、输出质量、机理保真、控制与因果完整性、工况鲁棒性和动态响应六个维度打分。对六个智能体系统的评测中最高总分仅 42.86,交付率、可执
该论文提出 Calibrated User Embeddings (CUE) 框架,用于多轮交互基准测试中的用户模拟器校准。研究发现现有模拟器虽在表面风格上接近人类,但缺乏结果校准,即无法复现真实用户与同一智能体交互时的成功率和失败模式。CUE 通过编码真实会话并采样连续表示,再解码为 persona 命令来引导 LLM 模拟用户,无需训练即可在多个任务上更
研究者提出 World Embedding Benchmark,包含来自 80 个物理家族、覆盖流体力学、固体力学、动力学和光学电磁学的 8,000 个受控仿真案例,每个案例配有渲染视频和仿真物理标注,支持文本-视频检索、物理属性回归和视频描述配对分类三项任务。评估显示预训练全模态嵌入模型检索能力弱、家族内配对分类接近随机,而轻量探针可从冻结视频嵌入中恢复有
Simon Willison 在本地 DGX Spark 硬件上复现了 Colin Frasier 两年前用 GPT-4o 做过的实验,测试模型能否在计算大数加法后以英文单词形式输出答案。他使用 Qwen3.8-27B-Q4 K M.gguf 模型,在关闭推理时每组合运行 30 次,开启推理时每组合仅运行一次,结果 169 次尝试中答对 167 次。报告还展
Google Cloud AI Research 与多所大学提出 RRSI 方法,用于防止自我改进的 AI agent 在优化自身 harness 时过拟合测试任务。RRSI 通过逐步收紧编辑预算、引入严格 critic 过滤基准特定技巧,并只接受有性能收益的算力增加,从而提升泛化能力。在八个基准上,RRSI 训练任务最高提升 14.1 分,未见任务最高提升
Aleph Alpha 发布基准测试,对阿里巴巴 Qwen、DeepSeek 和月之暗面 Kimi 等中国模型在 967 个敏感话题上的表现进行评估,称仅 17% 至 41% 的回答被评为平衡,其余重复官方立场、回避或拒答。研究还发现这种倾向会外溢到不涉及中国的问题,并指出英伟达 Nemotron Cascade 2 因训练数据含 DeepSeek 和 Qw
Archestra 发布开源安全引擎 OpenAPPA,用于阻止提示注入或模型幻觉导致的数据外泄。该引擎运行在智能体提示与执行循环之外,通过 appa.toml 配置数据源、受众、信任等级和权限,并采用 Agentic Permissions Policy Algebra(APPA)实现确定性策略执行。在 Bench-Corp 和 AgentThreatBe
本期 AINews 汇总了 2026 年 10 月初的 AI 动态:OpenAI 发布 GPT-6.1 Sol,以每百万 token 2/10 美元的低价主打性价比,在 Agent Arena 排名第五;Anthropic 的 Sonnet 5.5 首发即位列第三并拿下 Chat 类别第一,使 Anthropic 占据 Agent Arena 前三。此外,l
马里兰大学与AWS的研究者提出LEGO-Anything项目,采用Image-to-Code方法,让编码智能体通过迭代编写和修改Blender代码,从单张照片重建可编辑的3D场景。团队同时发布LEGO-Bench基准,包含208张来自模拟器场景的图像,从有效性、重建精度和外观三方面评分。测试显示六种GPT配置几乎都能生成可用场景,但几何精度差异巨大,最佳模型
TypeSafe AI联合创始人兼CEO Diogo Almeida在Latent Space访谈中介绍其System-One决策模型Jev,称其日处理量突破一万亿token,并在第三方JevBench v1.2.1综合榜以75.3分排名第一。他批评公开benchmark易被操纵、行业过度追求速度与成本而忽视可靠性,并提出五年内拉动全要素生产率(TFP)增长