AdvNav：黑盒攻击揭示视觉语言导航系统的潜在安全风险
原标题：给黑盒导航机器人「使绊子」：AdvNav 如何揭示具身智能系统潜在安全风险 | GAIR Paper 117
AI 摘要
香港科技大学（广州）陈昶昊教授团队提出 AdvNav，这是首个面向视觉语言导航任务的黑盒行为引导对抗攻击框架，无需访问模型内部参数，仅通过观察智能体行为即可生成扰动。在 R2R 数据集上，AdvNav 对 HAMT 和 MapGPT 模型分别取得 49.70%、65.96% 和 87.30% 的攻击成功率，揭示了当前视觉语言导航系统普遍存在的视觉脆弱性。该研究为具身智能安全评测提供了新工具，相关成果被 ACM Multimedia 2026 录用。
正文节选
0 作者丨李晨阳 编辑丨陈淑瑜 近两年，能自己走路、自己带路的机器人正从实验室走向真实场景：医院的配送机器人按医嘱送药，仓库里的搬运机器人找货架，家里的扫拖机器人按指令去某个房间。它们靠的不是提前存好的地图，而是“看懂画面 + 听懂指令 + 自己决定下一步往哪走”——这正是视觉语言导航（VLN）要解决的问题。 这类系统藏着一个少被提起的前提：它完全相信自己的“眼睛”。摄像头拍到什么，它就当成事实去决策。 ▎于是真正的痛点浮现了： 视觉是它最脆弱的入口。 机器人的所有判断都建立在像素之上，可真实世界的光照变化、物体遮挡、甚至镜头上一点污渍，都可能让“同一段路”在它眼里变得不一样。 越聪明，越怕“看不见的偏差”。 大模型加持的导航机器人推理更强，却也更依赖视觉输入；一旦输入被轻微扰动，小错会一步步放大成“走错整个楼层”。 更难的是“验伤”。 真实部署的机器人是封闭产品，你拿不到它的内部参数和梯度，传统那种“拆开看脑子”的评测方式根本用不上——而我们恰恰最该知道：它在受干扰时到底有多不靠谱？ 过去的研究大多盯着“怎么让机器人在干净环境里走得更准”，却很少有人问“它在被扰动时会不会崩”。 这正