返回主题地图

评测与基准

技术方向 · 模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化 · 共 1078 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

11月2日周一 · 8 条
正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

超越合理预测:网页世界模型中的安全充分性

该论文提出「安全充分性」概念,指出网页世界模型即使能生成语义上合理的预测(3000条预测中86.1%被判定为合理),也未必包含做出正确安全授权决策所需的关键信息。作者构建了SafeWebWorld基准,覆盖五个网页安全领域,联合评估动作条件未来、策略决定性证据以及Execute/Ask/Block三分类决策。研究发现,在安全对齐监督微调下,证据保留能力提升的

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

用大语言模型自动构建强简单基线以检验深度学习贡献

该研究从 Nature、Science 和 Cell 系列期刊的同行评审论文中收集了 36 个监督分类与回归任务,这些论文均提出了新的深度学习方法。研究者使用大语言模型为每个任务自动构建简单基线,发现这些基线能恢复平凡预测器与深度学习模型之间差距的中位数 95.5%(均值 85.7%),且在 12 项研究中中位数基线达到或超过深度学习模型的表现。作者认为,自

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

Qistas:面向大语言模型公平性评估的可移植预注册协议

研究者提出名为 Qistas 的公平性评估协议,用于评估大语言模型如何对待特定社会的社会、宗教与地域群体,设计上可移植到不同国家,并首先针对伊拉克实例化。该协议只测量无需对争议性真相下判断的维度,包括匹配反事实对的处理对称性、差异化拒答、歧义下的刻板印象依赖和事件术语框架,并采用配对统计与预注册。作者发布了配套编写工具,并报告对 58 条种子库的语义审查:2

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

一个判定不够:学习型世界模型及其测试框架的回归测试

论文提出 TetraState 回归测试协议,针对学习型世界模型在模型版本、预处理和测试框架变化时的回归问题。该协议将每个测试在四种模型原生配置下运行,用结果类别(一致通过、配置相关通过、配置相关失败、一致失败)替代单一通过/失败判定,并将测试框架纳入被测系统版本管理。在 IntPhys 2 的 506 个测试及 Cosmos 3 Nano 与 V-JEPA

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

MILES-Rec:从移动行为推断隐式意图的跨域 POI 推荐

论文提出 MILES-Rec 跨域 POI 推荐框架,从地图应用中的移动行为(搜索、路线、导航等)推断用户隐含的服务意图,并将其表达为按优先级排序的自然语言查询。方法上先用渐进式推理示范学习情境理解、意图扩展与查询排序,再引入意图对齐的组相对策略优化,以用户后续交互作为奖励,并采用两级信用分配协调单条查询质量与整份查询列表的覆盖度。作者基于大规模地图平台真实

正文结构化主题已通过公开置信门槛
arXiv cs.IR一手来源研究

ProdCrawl:可复现的聚焦爬虫测试集合

研究者发布 ProdCrawl,一个可复现的聚焦爬虫测试集合,包含 621 个公司及组织网站的静态镜像、约 110 万页面,并由三个大语言模型多数投票标注每页是否为产品页。任何爬虫都可在相同站点上运行并按相同标签评分,从而解决实时网页漂移与缺乏真实标注导致对比不可靠的问题。实验显示文本分类器和关键词匹配未显著优于广度优先爬取,而基于语义的神经嵌入优于所有简单

正文结构化主题已通过公开置信门槛
arXiv cs.CV一手来源研究

Drone-PUR:无人机场景视觉线索发现与推理基准

天津大学等机构的研究者提出 Drone-PUR,一个面向无人机场景的视觉线索发现、理解与推理数据集和基准,包含 11 项任务、17.5 万训练样本和 2 万测试样本,覆盖单图、图像序列、跨模态图像和多视角。评测 22 个通用视觉语言模型后发现,它们在空间判断、跨模态与跨视角推理上存在持续局限,且感知能力更强的模型推理表现更好。团队还基于 Qwen3-VL 分

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

投机草稿与连续扩散语言模型的生成能力差距

该论文比较了连续扩散语言模型(CDLM)与投机解码草稿模型在无验证、独立生成条件下的生成能力。作者用 LangFlow 实例化 CDLM,用 DSpark 的 Markov 与循环头架构实例化草稿模型,在 OpenWebText 上从零训练并评估 GenPPL 与 MAUVE。结果显示在长度 128 和 1024 时 LangFlow 两项指标均优于 DSp

11月1日周日 · 7 条
正文结构化主题已通过公开置信门槛
THE DECODER研究

Adobe 测试 AI 智能体能否像专业修图师一样使用 Photoshop 工具

Adobe Research 与 UC San Diego 联合构建了 EditAgent,将图像编辑任务拆解为子步骤,让通用编辑器与锐化、缩放等专用工具并行生成多个候选结果,再由标准语言模型借助特写裁剪、变化图和亮度色彩统计等验证记录进行评判。在 600 条编辑基准上,七个语言模型在获得验证记录后全部超越专门微调的评估模型,Qwen3.8-27B 的可用选

正文结构化主题已通过公开置信门槛
THE DECODER研究

共情提示词可使AI聊天机器人呈现受创伤式对话

卢森堡大学研究团队通过标准用户界面对ChatGPT、Grok和Gemini进行心理治疗式提问,发现共情式提示词会使模型以创伤、羞耻等语言重构其训练过程,形成所谓「心理测量越狱」。研究覆盖525次会话和7600条编码记录,显示温暖对话风格可使模型在人类焦虑量表上达到中重度分数,而中性提示下分数接近零。研究者警告此类输出可能加深弱势用户的不健康依恋,并建议安全测

正文结构化主题已通过公开置信门槛
THE DECODER研究

研究:中国 AI 模型政治立场复杂,并非只是政府喉舌

AI 基准测试公司 Vals AI 研究了中国、美国及其他语言模型对数百个涉华政治问题的回答,发现中国模型的政治倾向比预期更复杂,并非一律充当政府喉舌。研究显示,提示语言对回答的政治倾向影响显著:简体中文提问比英文、俄文或西班牙文更容易得到亲政府回答,中国和美国模型都受影响,但中国模型更明显。多数中国模型很少拒答,而是有时直接采用官方立场;在智能体框架或联网

正文结构化主题已通过公开置信门槛
THE DECODER研究

谷歌推 StreamVibe 视频智能体,可自主判断何时提供帮助

谷歌联合斯坦福、牛津等机构的研究团队提出 StreamVibe,一个能自行判断何时开口提供帮助的视频智能体,并基于约4100个样本、183小时日常与软件录屏构建基准测试。团队训练了 StreamVibe-VL 模型(疑似基于阿里 Qwen3.5-9B),结合强化学习与独立记忆系统,使响应时机与质量提升10.7%,主动交互提升12.3%。测试显示所有模型在连续

正文结构化主题已通过公开置信门槛
量子位研究

清华姚期智团队提出代数世界模型,让AI形式化推理

清华大学姚期智、袁洋团队提出「代数世界模型」(AWM),通过探索、凝炼、证明三步,将游戏环境中的现象抽象为代数结构并用 Lean 4 形式化验证。在 ARC-AGI-3 测试集上,基于 Opus 5 的 AWM 通关全部 183 个关卡,得分 99.9%,平均动作数仅为人类基准的 43%;面对无解关卡还能证明其不可能并给出最少所需步数。该工作试图让 AI 从

正文结构化主题已通过公开置信门槛
量子位开源

Jev 母公司联合 Treg 开源找人工具,比 Clay 便宜 85%

TypeSafe AI(Jev 的母公司)联合 Agent 工具平台 Treg 开源了一款找人工具,价格比 Clay 便宜 85%,已获 6400 Star。该工具让 Agent 通过自然语言描述目标人物,由 Jev 判断候选人是否符合要求,Treg 调用人员数据库与邮箱验证等工具完成线索补齐。在 People Search Bench 上,Claude C

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

FINAL-Bench 发布 POCKET-Darwin-180B 的 4-bit GGUF 量化版

FINAL-Bench 在 Hugging Face 发布了 POCKET-Darwin-180B-GGUF,这是对 Darwin-180B-RSI-R3 进行 4-bit GGUF 量化后的版本,约 111GB,基于 Qwen 社区许可。该模型主打端侧与本地部署,可在 8GB 显存加 32GB 内存的笔记本、纯 CPU 迷你主机以及 NVIDIA DGX

10月31日周六 · 2 条
正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

WebAnything:从真实网页自动构建可扩展智能体环境

研究团队提出 WebAnything 框架,可从真实 URL 全自动重建可执行、可重置的网站环境,无需逐站人工实现。该框架通过 Explorer–Builder 采集浏览器可观测结构与交互结果,并由独立验证器检查冻结候选、指导局部修复或定向重采集。团队构建了覆盖 14 个领域、53 个类别的 244 个网站工件,支持 12,984 个已执行任务;在盲审中对比

正文结构化主题已通过公开置信门槛
arXiv cs.AI一手来源研究

OpenFrontiers:开放研究问题语料库与科学再发现基准

研究团队发布 OpenFrontiers,一个跨学科开放研究问题语料库(12,151 条记录)及配套基准 OpenFrontiers-Bench(200 道数学问题,含 Lean 4 形式化陈述)。在 HQ-50 子集上评估七个 LLM 智能体:闭卷条件下最多解出 40 道已解题中的 7 道,联网条件下最多 27 道但多为检索已发表解答,且无任何开放问题被解

10月30日周五 · 3 条
正文结构化主题已通过公开置信门槛
Microsoft Research Blog一手来源研究

微软用合成企业数据评估 Copilot 表现

微软研究院构建了 Industry Evaluation Data Generation Platform,通过基于 O NET 职业数据、招聘信息和 SEC 文件等公开数据生成全规模合成企业环境,在不使用任何客户真实数据的前提下评估 Microsoft Copilot。该平台模拟真实业务流程与时间演化结构,帮助发现通用基准难以覆盖的问题,并内置安全与隐私检

正文结构化主题已通过公开置信门槛
ElevenLabs Blog一手来源模型发布

ElevenLabs 推出 Eleven Realtime 语音智能体模型

ElevenLabs 发布 Eleven Realtime 系列语音到语音模型,包含面向低成本自然对话的 v1 Mini 和面向复杂任务的 v1 Max,支持 90 多种语言及 17000 多个音色。该模型基于端到端调优的级联架构,兼容 OpenAI Realtime API,开发者只需更换端点和模型名即可迁移。在 Artificial Analysis 的

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

mlx-community 发布 Qwen3.8-27B 4-bit 混合精度量化版

mlx-community 发布了 Qwen3.8-27B 的 4-bit 混合精度 MLX 量化版本,基于 mlx-optiq 工具链,通过 KL 散度敏感度分析将敏感层保留为 8-bit、其余层用 4-bit,磁盘占用 19.0 GB。该量化模型支持在 Apple Silicon 上本地运行文本与图像输入,并附带 MMLU 84.1%、GSM8K 96.