LHTB 2.0:自动化任务构建与长时程智能体进展评测
原标题:Long-Horizon-Terminal-Bench 2.0: Automating Diverse Task Construction and Measuring Sustained Agent Progress
AI 摘要
腾讯混元大模型前沿团队联合多所高校发布 Long-Horizon-Terminal-Bench 2.0(LHTB 2.0),在保留原有 46 个任务的基础上修复缺陷并新增 31 个任务,共 77 个任务、覆盖 13 个领域和 8 种任务类型。新基准通过参数化参考实现自动生成重构任务,并将评估时长从 90 分钟延长至 3 小时、每 30 分钟记录验证器检查点,以衡量智能体在长流程中的持续进展。在 15 个前沿模型的 1145 次评分运行中,GPT-6-astra 以密集平均奖励领先,GPT-5.6-sol 紧随其后;30 个重构任务在二元验证器下平均得分远低于密集阶梯评分,说明仅看最终结果会丢弃大量中间进展。
正文节选
1]Tencent HY LLM Frontier 2]University of Maryland, College Park 3]University of Georgia 4]Indiana University 5]National University of Singapore 6]Washington University in St. Louis 7]University of Minnesota, Twin Cities 8]Carnegie Mellon University 9]The Hong Kong Polytechnic University 10]Lehigh University \contribution† Core contribution. \headercontentProject page: https://zli12321.github.io/LHTB/ Long-Horizon-Terminal-Bench 2.0: Automating Diverse Task Construction and Measuring Sustained A