返回全部动态

何恺明团队发布多模态Harness框架VISTA

原标题:何恺明团队发布多模态Harness框架

量子位研究质量 75

AI 摘要

何恺明团队在论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中提出视觉原生Harness框架VISTA,让现有多模态模型无需重新训练即可保存原始画面并在推理时回看、放大和检查细节。在ARC-AGI-3评测中,搭配VISTA的Claude Opus 5.0通关全部25个公开游戏并获满分100,GPT-5.6 Sol得分99;在GameWorld、AI GameStore和BabyVision上成功率或得分也显著提升。该工作将视觉经验变为可随时调用的上下文,并指向具身任务等后续方向。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

何恺明团队发布多模态Harness框架 多模态模型的视觉原生Harness,来了! henry 发自 凹非寺 量子位 | 公众号 QbitAI 多模态模型的视觉原生Harness,来了! 最近,何恺明团队在最新论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中,提出了一套视觉原生的Harness—— VISTA。 它让现有的多模态模型直接观察环境、保存原始画面,并在推理时随时回看、放大和检查细节,无需从头训练。 相比于传统将环境抽象成文字或代码的做法,VISTA保留了原始的视觉信息。模型可以根据眼下的问题,将过去看过的画面重新调入上下文,参与当前的判断与推理。 基于这套方法,视觉经验成为了模型随时调用、反复检查的上下文,而多模态模型,也有了围绕视觉记忆搭建的原生脚手架。 在评测方面,搭配VISTA,Claude Opus 5.0完成了ARC-AGI-3全部25个公开游戏,相对人类动作效率得分达到满分100,所用游戏动作数比首次游玩的人类基线少57.4%。 换成GPT-5.6 Sol,同样全部通关,得分达到


发布时间:2026-10-11 16:59
抓取时间:2026-10-11 19:31
来源机构:量子位
阅读原文qbitai.com