返回主题地图

评测与基准

技术方向 · 模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化 · 共 1077 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

11月8日周日 · 2 条
正文结构化主题已通过公开置信门槛
THE DECODER研究1

研究:AI 审计员能抓多数 agent 不当行为,但误报泛滥

Anthropic Institute 研究员 Andy Hall 在 Substack 发文,复现并扩展了 METR 的研究,测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 等模型能否像人类审查员一样识别 AI agent 日志中的不当行为。结果显示,在 5% 误报率下,GPT-5 能

正文结构化主题已通过公开置信门槛
THE DECODER研究

Thinking Machines 的 Inkling 2 Small 在基准测试中爆粗口 316 次

Vals AI 研究人员分析了 Thinking Machines 的 Inkling 2 Small 模型在 13 个基准测试中 2,655 次运行的思考日志,发现 50 次运行中出现脏话,共 316 处,其中 241 处来自两次失控运行。一次计算小行星轨迹的任务中,模型生成了约 50 万字符的重复长回复,包含 158 处脏话。研究指出脏话并不能作为失败预

11月7日周六 · 6 条
正文结构化主题已通过公开置信门槛
THE DECODER研究

开源与闭源AI模型的网络攻击能力差距持续缩小

Vals AI 的 CyberOffense 基准测试显示,AI 智能体能够自主入侵模拟企业网络。OpenAI 受限项目中的 GPT-6 Sol 在 Lighthouse 测试中完成 31 个目标中的 27 个,而开源权重模型 Deepseek V4.1 Flash 1017 完成 21 个,成本仅为前者的约七分之一。研究还发现,开源与闭源前沿模型在网络攻击

正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
量子位商业

OpenAI首笔110亿美元融资到账,并发布安全模型与生物基准

OpenAI完成新一轮融资首笔110亿美元交割,估值达1.25万亿美元,整轮规模最高或达200亿美元,低于此前至少300亿美元的计划。同期OpenAI联合前沿模型论坛发布网络安全越狱风险评级框架,并与Ligo推出生物实验分析基准BioBasicsBench,GPT-6 Astra得分66.7%高于GPT-5.6 Sol的43.8%。此外OpenAI发布网络安

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
Google ADK Python Releases一手来源开源1

Google ADK Python v2.14.0 发布

Google 发布 ADK Python v2.14.0,将执行环境、A2A、评估与核心运行时模块从实验性转为稳定,并新增多轮评估与语义化工具参数匹配。该版本还加入 Microsoft Teams 与 OpenAI Decisions 集成,并优化长多轮工作流性能。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布1

AMD 发布 Qwen3.8-Flash-Next MXFP4 量化模型

AMD 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 MXFP4 量化版本,使用 AMD-Quark 将 MoE 路由专家与共享专家权重及激活量化为 OCP MXFP4,注意力等其余部分保持 bf16。该模型面向 AMD MI350/MI355 硬件与 ROCm 7.2.3,通过 vLLM 推理,在 GSM8K、GPQA Di

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布1

AMD 发布 GLM-5.3 Quark MXFP4 量化版

AMD 在 Hugging Face 发布 GLM-5.3-Quark-MXFP4-AttnFP8,基于 zai-org/GLM-5.3 使用 AMD-Quark 工具进行 MXFP4 量化,注意力层采用 FP8 per-block,面向 AMD MI350/MI355 与 ROCm 7.1.1 平台。该模型通过 vLLM 推理,在 GSM8K、GPQA D

11月6日周五 · 12 条
正文结构化主题已通过公开置信门槛
量子位研究

Anthropic三大内部模型曝光,Model 4能力超Opus5.5约三个月

第三方评估机构METR的报告披露了Anthropic三个未公开的内部模型Model 2、Model 3、Model 4,其中最强的Model 4在Anthropic综合能力指数AECI上超过已发布的Opus5.5约3.9分,相当于约3个月的进步幅度。Anthropic联合创始人Sam McCandlish回应称AI正在加快公司研发,但难以精确衡量加速程度,并

正文结构化主题已通过公开置信门槛
Latent Space研究

控制生物学:Fabian Theis 谈虚拟细胞与多尺度生物数据

Latent Space 播客采访了 Helmholtz Munich 的 Fabian Theis,讨论虚拟细胞(Virtual Cell)研究现状。文章指出,2025 年 Arc Virtual Cell Challenge 显示,在扰动预测任务中,简单基线常优于复杂模型,部分原因是评估指标校准不佳;Theis 认为现有数据集上的扰动预测问题不够难,应转

正文结构化主题已通过公开置信门槛
THE DECODER研究

METR审计:Anthropic模型加速或已触及自身预警阈值

非营利机构METR在获得Anthropic内部研究数据十一周访问权限后发布审计报告,发现Anthropic模型能力的提升速度自2025年10月以来约为此前的1.9倍,其中约80%的加速来自AI被用于公司自身研究。该加速可能已触及Anthropic《负责任扩展政策》中设定的预警阈值,METR认为该阈值或早在7月15日就已被跨越。但Anthropic对大部分关键

正文结构化主题已通过公开置信门槛
THE DECODER模型发布

Thinking Machines 发布 Inkling 2 Small,称最强西方开放权重模型

前OpenAI CTO Mira Murati 创办的 Thinking Machines 发布第二代模型 Inkling 2 Small,这是一个总参数 5940 亿、每次激活 170 亿的混合专家模型,支持文本与图像输入并可调节思考深度。其在 Artificial Analysis 智能指数上得分 31,比前代提升 18 分,与 Gemini 3.8 F

正文结构化主题已通过公开置信门槛
OpenCompass Releases一手来源开源

OpenCompass 发布 v0.5.5:新增多领域评测基准并重构文档与 CI

OpenCompass 发布 v0.5.5 版本,新增 CritPt、General365、AA-OmniScience、AA-LCR v1.1、HLE-Diamond、arena-hard-v2、ReasonZoo、MaritimeBench、WMT19 等覆盖物理、推理、长上下文、对齐、幻觉、生物医学、翻译和多模态评测的基准,并通过 VLMEvalKit

正文结构化主题已通过公开置信门槛
量子位产品发布

360图龙锋以99.4%登顶CyberGym AI安全榜单全球第一

360自研AI安全攻防系统图龙锋在CyberGym漏洞复现榜单上以99.4%的成功率登顶全球第一,超过OpenAI、Anthropic、Google的同类安全强化模型。该系统基于360安全团队二十余年积累的真实漏洞样本与专家过程经验训练安全领域大模型,并结合专业智能体蜂群完成漏洞定位、PoC构造与复现。发布以来已累计发现超1.5万个漏洞,500余家企业接入测

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

用LLM模拟真实用户人格提升移动应用功能覆盖测试

该论文针对LLM智能体黑盒移动应用测试中现有指标(Activity Coverage)无法衡量用户真正关心功能覆盖的问题,提出用户中心功能覆盖基准(含3,012个来自应用描述与真实评论的目标功能及LLM-as-a-judge自动评估流程),并设计ECS框架,通过探索、关键用户旅程(CUJ)与人格增强的合成评论来模拟真实用户。ECS实现64.1%功能覆盖率,较

正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

同源不同判:文本生产条件干扰俄语机器生成文本检测

该研究在俄语语料(1882 篇文档)上固定文本来源,仅改变任务措辞等生产条件,用四种机器文本检测方法(可解释指数、训练分类器、零样本指标、评判模型)打分。结果显示四种方法对同一条件变化的评分方向不一致,且仅用来源标识符这一单特征即可达到中位 AUROC 1.0000,说明来源类别与语料组装方式混淆。作者据此指出,机器文本检测分数反映的是特定测量系统与语料的属

正文结构化主题已通过公开置信门槛
arXiv cs.MA一手来源研究

更多智能体更可靠?运行剖面不确定下多智能体LLM的系统级可靠性

该论文提出一种面向多智能体LLM系统的系统级可靠性评估框架,将HIP-LLM对单个LLM的分层不精确概率评估与编码系统失效逻辑的贝叶斯网络结合,并把智能体输出合并规则本身视为可能失效的环节。在提取受监管化学品危害声明的真实流水线案例中,对三个模型进行多数投票虽能抵御最弱模型,但并未明显超过最佳模型;若投票器在5%的需求上失效,其相对中间模型的优势将基本消失。

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

大模型小增益:冻结预测模型在MONSTER上的分类评测

研究对两个时间序列预测基础模型 Reverso 和 Chronos-Bolt 在 MONSTER 基准的六个大型数据集上进行受控评测,使用 1%、10%、100% 三种标签预算,将其冻结表示与四种强分类基线及同架构随机权重版本对比。结果显示预训练相比随机权重在六个数据集中的五个上提升分类准确率,最多提升 23 个百分点,但冻结表示在 17 种设置中有 15

正文结构化主题已通过公开置信门槛
arXiv cs.SE一手来源研究

超越智能体运行框架:软件工厂编排的边界标准——单运营者案例研究

该论文提出一套边界判定标准,用于区分编码智能体运行框架(agent harness)、工厂编排层(factory harness)与领域层,并给出将故障归因拆分为缺陷来源、控制缺口与修复位置三个字段的编码方法。作者基于单一运营者服务六个项目的流水线及三个已发表系统的26个组件开发标准,冻结后由两个模型编码器对46个留出单元进行验证,机制层分类完全一致,事件字

正文结构化主题已通过公开置信门槛
arXiv cs.LG一手来源研究

SteelAgent:LLM 编排的物理信息钢材性能预测与泛化审计

该论文提出 SteelAgent,一个由大语言模型编排、结合物理冶金描述符与机器学习模型的钢材性能预测系统,支持性能预测、不确定性报告和逆向设计。研究重点考察不同留出单元对评估结论的影响:梯度提升模型在随机划分下 R² 为 0.859,但按钢种家族留出时降至 0.113;名义 90% 预测区间的实际覆盖率也从 91.0% 降至 37.6%。物理特征的效果随评