AI会预测未来吗?一道机器人都答不好的空间推理题
(来源:科技行者)
你有没有想过这样一个场景:一个机器人要从桌子上拿一本书,书上面压着一个杯子。如果它直接抽走书,杯子会掉吗?
一个三岁的小孩都能瞬间想明白:会啊,杯子肯定要跟着书一起晃,甚至摔下来。所以正确的做法是先把杯子挪开,再抽书。
这个判断看起来简单到不值一提,但对现在最先进的AI视觉语言模型来说,这恰恰是它们最薄弱的环节。浙江大学的研究团队做了一件挺扎心的事:他们专门设计了一套测试题,让21个顶尖AI模型来做这种"预测未来会发生什么"的空间推理题。结果最强的模型只拿到58分(满分100),而人类随手一答就是87.2分。更尴尬的是,那些专门为空间推理而训练的"空间专家模型",分数低到接近瞎猜的水平。
这篇论文叫SpaceCast-Bench,中文可以理解成"空间推演测试集"。它想问的问题很直接:AI能不能像人一样,看到一个场景,想象对它做了某个改变之后,推理出改变后会是什么样子?
**空间感知和空间预测,是两件完全不同的事**
先说清楚一个容易被混淆的概念。
现在市面上大部分空间推理测试,其实考的是**空间感知**
空间感知*:直接从图片里读出已经存在的空间关系,比如"杯子在桌子左边"这种一眼就能看出来的答案。
比如给你一张卧室的照片,问"床头柜在床的哪一侧",这种问题答案就摆在图片里,模型只需要正确地"看懂"图像就行。像What'sUp、EmbSpatial-Bench、SpatialRGPT-Bench这些早期的空间推理测试集,考的基本都是这类题。后来VSI-Bench、MMSI-Bench这些测试集进一步加入了多视角、多图片的内容,但本质上还是在考"看懂当下的场景"。
但现实世界里,真正重要的能力往往不是"看懂现在",而是**空间预测**
空间预测*:在没有真实观察到结果的情况下,推理出一个干预或变化发生后,场景会变成什么样子。
回到开头那个机器人抽书的例子。机器人需要在脑子里构建一个场景模型,模拟"抽走书"这个动作会带来什么后果,然后在动作真正发生之前就做出正确决策。这种能力,正是自动驾驶要躲避行人、家庭机器人要收拾房间、任何需要在物理世界里行动的AI系统都绕不开的坎。
这就像开车时判断"如果我现在变道,旁边那辆车会不会撞上来"。你不需要真的变道撞一次才知道危险,你的大脑会提前跑完整个物理过程,在脑子里"预演"结果。如果没有这种预演能力,你只能靠事后复盘来学习,而事后复盘在马路上往往意味着事故已经发生了。AI要进入真实物理世界去干活,,缺了这个能力,,代价是实打实的。
**三层难度,层层加码的空间推演测试**
SpaceCast-Bench一共设计了3862道题,覆盖182个真实场景,16种任务类型。整个测试体系围绕一个叫"观察-转换-推断"的框架搭建。
观察-转换-推断*:先让模型看一系列照片了解场景原始状态,接着告诉它场景发生了某种改变(比如物体被移动了),最后让它推理出改变后某个空间关系是什么,——但注意,改变后的画面模型是看不到的,必须靠脑子想。
这套框架之下分成三个难度等级。
第一层叫**静态感知**,这一层其实没有发生任何改变,纯粹考察模型能不能从多张照片里正确理解场景,比如"你是鞋架,面朝电风扇,暖气在哪个方向"。这一层是基础分,答不对的话后面两层就更不用谈了。
第二层叫**局部预测**,这一层开始引入真正的干预:把某个物体挪一下位置,或者绕着另一个物体转个圈,,或者直接把它从场景里拿走。模型要推理的是,这个局部动作完成之后,某两个物体之间的空间关系变成了什么。比如"把床往北移1.5米之后,枕头和洗衣篮是什么方位关系"。
第三层叫**全局预测**,这一层最硬核:把整个房间当成一个整体,绕着某个轴旋转一下(比如顺时针转180度),问模型某两个物体现在的方位关系。这一层特别考验模型是不是真的理解了"场景的朝向"和"摄像机的朝向"是两件不同的事,——如果模型把这两者搞混了,答案一定是错的。
举个具体例子感受一下难度跳跃。静态感知可能问"从相机角度看,垂直方向的热水壁炉在哪",,这个答案就摆在图里。局部预测会问"假设微波炉绕着法压壶转了180度,从你(咖啡杯)的视角看,储物柜在哪个方向",这就要求模型在脑子里真实地做一次旋转计算。全局预测则是"假设这个房间原本是顺时针转了180度建造的,垃圾桶相对笔记本电脑在哪个方向",这种题目完全没有任何画面可以直接对照,纯靠脑内重建整个房间的三维布局再做变换。
这就像让你先看一眼朋友家客厅的照片,然后告诉你"我们把沙发挪到了对面墙边",再问你电视和茶几现在是什么关系。你没法直接看答案,你得在脑子里把整个房间重新摆一遍,才能回答。如果你连原始房间的三维结构都没搞清楚(比如沙发到底离墙多远),后面的推理必然是瞎猜。
**造题这件事,比想象中讲究得多**
这套题不是随便拍几张照片编几个问题就完事的,背后有一整套严密的工程流程。
团队用了ScanNet和ScanNet++这两个真实室内场景数据集,,总共182个场景,每个场景都有带深度信息的RGB照片、精确标注的相机姿态、重建出来的三维几何结构,以及每个物体的身份标注。基于这些素材,他们搭建了一个叫**空间关系引擎**的计算系统。
空间关系引擎*:一套根据三维几何数据直接计算空间关系标签的程序,确保每道题的正确答案都是通过几何计算得出的,不是靠人工猜测。
比如判断两个物体之间的方向关系,程序会把物体中心点投影到地面平面上,计算相对向量落在哪个45度扇区里;判断距离,则用网格采样算出两个物体表面最近点之间的真实距离;判断遮挡关系,用光线投射的方式模拟相机视角下哪个物体会挡住哪个物体。
团队还专门构建了一个叫**附着关系图**的东西。
附着关系图*:记录物体之间"谁动了谁也会跟着动"的依赖关系,比如桌子动了,,桌上的键盘和鼠标也会跟着动。
这个设计很关键,因为预测类题目经常要考"移动这个物体之后,哪些东西也会跟着挪动",如果没有这张关系图,模型很容易漏掉那些被忽视的"连带受害者"。想象一下你搬家时抱起一个纸箱,箱子里的东西会跟着你一起移动,但箱子旁边没放进去的东西不会。附着关系图干的就是提前标注清楚哪些东西算"箱子里的",哪些不算。
另一个特别值得一提的设计是**视图链构建**。
视图链构建*:为需要跨视角理解的题目,专门挑选出两组互不重叠的"锚点视图",再用若干"桥接视图"把它们连接起来,模拟真实场景中信息分散在不同照片里需要整合的情况。
这个设计解决了一个很实际的问题:真实世界里,你没法在一张照片里看到整个房间的所有角落。你可能先看到客厅这头有张桌子,又看到客厅那头有个茶几,中间走廊里经过了几眼别的东西,最后才在脑子里拼出整个房间的样子。桥接视图就是模拟这个"中间经过的几眼",缺了它们,模型就得靠脑补硬凑两张互不相关的照片之间的关系,准确率会明显下滑,——后面实验数据会证明这一点。
整套题目生成之后,还经过了严格的质量把关。10名标注员对每道题至少做两轮独立审核,单选题的审核一致率达到98.9%,涉及多选的"连带移动"题目一致率是91.8%。遇到意见不一致的,交给第三位标注员仲裁。最终有157道题被纠正了标准答案,143道题被重写,36道题直接被删除。
**21个模型考试,成绩普遍不理想**
测试覆盖了21个模型,分成三组:9个商业闭源模型(比如Claude、Gemini、GPT系列、Qwen商业版)、6个开源通用模型(InternVL、Qwen系列开源版),以及6个专门为空间推理打造的"专家模型"。
结果排名第一的是Gemini 3.5 Flash,拿到58.0分。第二名Gemini 3 Flash是56.7分,第三名Qwen3.7-Plus是55.3分。再往下排名直接掉到40分以下,比如Claude Sonnet 4.6只有36.0分。
**最拿第一的模型也比人类低了29.2分**。
这个差距意味着什么?意味着每做10道题,人类大概能对8.7道,而最强的AI只能对5.8道,整整少对3道题。这不是小数点后的差距,是实打实的能力缺口。
开源通用模型里表现最好的是Qwen3.5-27B,39.3分,——比最强的商业模型还低了18.7分,比人类低了快48分。
但真正让人意外的是专门为空间推理训练的那6个"专家模型"。
**这些模型的分数普遍在25.7到29.1分之间,几乎等于瞎猜的水平**(随机瞎答大概25.9分)。
这就好比专门去报了个空间定向训练班,结果考试成绩还不如没上过课的同学。研究者推测,这些模型的空间训练数据可能更偏重"看懂当下画面"这种静态感知任务,没有专门教它们怎么推理"动作之后会怎样",所以碰到真正的预测题就全线崩溃。
**三个层级的分数走向,也暴露出不同模型的性格差异**
把成绩按三个难度层级拆开看,能看出一些挺有意思的规律。
商业模型和开源通用模型,普遍在第二层(局部预测)比第一层(静态感知)掉分明显。比如Gemini 3.5 Flash从第一层的62.9分掉到第二层的50.9分,掉了近12分;Qwen3.7-Plus从56.8分掉到49.8分。这说明,模型能看懂现在的场景,但要它去推理"动一下之后会怎样",立刻就露了怯。
但到了第三层(全局旋转),,这些顶级商业模型反而又涨回来了。Gemini 3.5 Flash在第三层拿到69.4分,比第二层高了近19分;Qwen3.7-Plus在第三层拿到66.6分。这个反转挺耐人寻味,,研究团队的解释是,整体旋转这种任务,可能只需要模型抓住"整个房间转个方向"这种大局观,不需要特别精细地追踪单个物体的移动轨迹,相对来说更接近一种模式识别而不是逐步推演。
而那些空间专家模型,走向完全不同。它们在第三层掉得特别惨,SenseNova-SI-1.2从第二层的30.5分掉到第三层的16.1分,Cambrian-S-7B从28.8分掉到17.1分。这说明专家模型的训练可能偏重局部细节特征,一旦涉及到"整个场景发生了全局性变化"这种需要跳出局部、重建全局空间认知的任务,就彻底不会了。
这个发现挺值得琢磨。就像有人很会观察一棵树的每一片叶子,却画不出整片森林的地图。局部敏感和全局理解,,看起来是两种不完全重叠的能力。
**哪种空间关系最难,哪种参考系最绕**
论文还细分了不同类型空间关系的得分情况。
从关系类型来看,"附着关系"(判断移动A会不会带动B)在大部分模型里得分最高,比如Qwen3.7-Plus拿到80.4分,GPT-5.6-Luna拿到74.2分。这可能是因为附着关系本质上是个二元判断(动或不动),比起方向、距离这种需要精确空间计算的题型相对简单。方向和距离则是普遍最难拿分的两类。
从参考系角度看,"世界坐标系"(以房间的东南西北为基准)普遍是模型表现最好的参考系,而"物体坐标系"(以某个物体自身面朝的方向为基准)是表现最差的。Qwen3-VL-4B在这两者之间的落差尤其夸张:相机坐标系39.3分,物体坐标系只有16.2分,差了23分之多。
这个现象其实挺符合直觉。"北边"这种方向概念是绝对的、固定的,,模型大概从训练数据里见过大量类似表述。但"假设你是这个物体,面朝另一个物体,那么第三个物体在你的左边还是右边",这需要先在脑子里给自己换一个"身体",再站在这个新身体的角度重新判断左右,,这种视角转换对AI来说明显更吃力。
**链式思考不是万能钥匙,有时候反而帮倒忙**
论文做了个很有意思的对照实验:同样一批题目,让模型"直接给答案"和"先说理由再给答案"(也就是常说的思维链提示),比较两种方式的分数差异。
**结果是,思维链提示并没有带来稳定的提升,效果因模型而异,甚至因任务层级而异**。
比如Qwen3.7-Plus用思维链之后,全局预测这层涨了9.8分,但静态感知这层反而掉了4.1分。Qwen3-VL-4B正好反过来,静态感知涨了6.3分,,局部预测却掉了1.7分。
这个结果打破了一种常见的默认预期:很多人以为"让AI多想一想总是好的",思维链提示在很多任务上确实管用。但在这个空间预测任务上,它表现得更像一把双刃剑,取决于模型本身的空间推理底子好不好。如果模型本身对空间结构的理解就是错的,那"多想一想"只是把错误的推理过程写得更详细,不会自动纠正方向。
**桥接视图:拼图少了一块,答案就会跑偏**
前面提到视图链里的桥接视图设计,论文专门做了对照实验来验证它的价值。
去掉桥接视图之后,模型在方向判断题上的平均准确率明显下降,尤其是"世界坐标系"方向判断,从39.9分掉到34.6分,掉了5.3分。相机坐标系和物体坐标系的下降幅度相对小一些,大概1.7到1.9分。
**这说明桥接视图对于维持一个连贯的全局空间表征特别关键**。
想象你去一个从没去过的大house做客,主人只带你快速扫了两眼客厅和卧室,中间全程闭眼走路。你大概能记住客厅长什么样、卧室长什么样,但完全没法说清楚客厅和卧室到底是什么方位关系,——因为你根本没经历"从客厅走到卧室"这段中间路程。桥接视图干的就是补上这段"中间路程",没有它,,模型只能靠猜来连接两个孤立的场景片段,世界坐标系这种需要绝对方位感的判断自然最容易出错。
**给AI喂地图,比给它看"想象图"更靠谱**
这篇论文还做了个挺前沿的尝试:既然模型自己脑补场景转换很困难,那给它一些外部辅助信息,能不能帮上忙?
团队试了两类辅助信息。第一类叫**显式三维证据**,就是直接给模型一张鸟瞰图(从天花板上方往下看整个房间的俯视图),或者直接把三维坐标信息用文字描述出来。第二类叫**世界模型生成的证据**,用图像生成模型(Qwen-Image-Edit、GPT-image-2)或视频生成模型(Seedance2-mini)去"想象"出干预之后场景会变成什么样子,直接把这张想象出来的画面喂给模型做参考。
结果反差很大。**商业模型和开源模型对显式三维证据反应非常积极**:给了文字版三维坐标信息之后,商业模型平均涨了30.7分,开源模型涨了10.9分。这说明很多模型的瓶颈其实卡在"没能正确理解三维结构"这一步,一旦把三维结构直接摆出来,它们后续的推理反而能跟上。
但给生成的"想象图"或"想象视频"做参考,效果却很有限,忽高忽低,没有稳定规律。为什么会这样?团队专门人工审查了600道局部预测题的生成结果,发现在模型答错的案例中,80.3%使用Qwen-Image-Edit生成的图片存在明显的生成失败,——比如物体变形、消失、比例错乱、视角不对。GPT-image-2的生成失败比例也有38.3%。
这个结果其实挺现实,:**AI想象出来的画面,本身质量就不够靠得住,用这种不靠谱的"想象图"去辅助另一个AI做推理,自然很难指望奇迹**。
这就好比你让一个记忆力不太好的朋友帮你描述昨天发生的事,然后你再根据他的描述去做判断。如果他描述得本身就有偏差,不管你多会分析,结论也跟着跑偏。给模型喂文字版三维坐标,相当于直接给了一份精确的会议纪要;给模型喂AI生成的想象图,相当于让一个记不太清的人口述转述,中间已经掉了信息,,再去推理只会越走越偏。
**让模型"刷题"之后,分数能涨多少**
既然模型表现这么差,那能不能通过专门训练来改善?研究团队确实做了这件事,,拿Qwen3-VL-4B这个44亿参数的开源模型做实验。
他们用同一套程序化生成的方法,造了一批跟测试集场景完全不重叠的训练数据,一共12249道题,覆盖全部16种任务类型。然后用两种训练方式分别微调模型:一种是把所有难度的题目混在一起训练(混合监督微调),另一种是按照静态感知到预测任务的顺序分阶段训练(分阶段监督微调),此外还单独试了一种叫GRPO的强化学习训练方式。
训练之后的结果很惊人。**原本只有34.0分的Qwen3-VL-4B,经过分阶段监督微调之后涨到65.7分**,几乎翻了一倍。混合训练也达到64.8分,差距不大。强化学习方式提升相对有限,只到37.7分,研究者推测这是因为任务本身太难,模型在强化学习过程中很难获得足够一致的奖励信号来有效学习。
更重要的是,这种训练效果不仅限于SpaceCast-Bench本身,还能迁移到其他六个完全不同的空间推理测试集上,比如MMSI-Bench、SPARTQA、MindCube、CLEVRER、VSI-Bench和DSI-Bench。分阶段训练之后,这六个测试集的平均分从33.5分涨到38.1分,其中DSI-Bench涨了10.2分,SPARTQA涨了6分。
这说明这套"刷题"训练方法练出来的不是死记硬背的套路,而是某种真正可以迁移的空间推理能力。就像你学会了解一类数学题的通用思路,碰到稍微换个说法的新题,照样能解出来,而不是只会那几道背过的原题。
**这些发现到底意味着什么**
读完整篇论文,有几个点让我反复琢磨。
第一个是空间专家模型的集体表现失常。这些模型都是专门针对空间任务训练出来的,照理说应该是这个赛道上的尖子生,结果反而是垫底的那批。这提醒我们一个容易被忽略的事实:为某个能力专门训练模型,不代表就能自动获得这个能力的所有子项,。空间感知和空间预测,看起来像一个大类下的两个小分支,实际上可能需要完全不同的训练数据和训练目标才能分别练出来。
第二个是思维链提示的失效。这打破了一种在很多任务里被反复验证过的经验,"多想一步总是好的"。在这个空间预测任务上,思维链更像是放大镜,,把模型本来就错的推理路径放得更明显,而不是帮它纠正方向。
第三个是生成式"想象画面"目前帮不上太大忙。现在很多人期待用视频生成模型给AI提供"预演未来"的能力,,这个想法本身很有吸引力,但现实是生成模型自己还不够靠谱,想象出来的画面经常物体变形、消失、位置错乱。要让"AI想象未来帮助AI推理"这条路真正走通,,生成模型的物理一致性必须先过硬,,这中间还有很长的路要走。
论文最后留下了一个没完全解决的问题:三个难度层级之间,到底是什么让模型在局部预测这个环节普遍崩溃,,而在全局旋转这个看起来更难的环节反而表现正常?这背后到底是因为局部预测需要更精细地追踪单个物体的位移,,还是另有原因,论文没有给出确切答案。这个问题留给后面的研究去追问。
Q&A
Q1:SpaceCast-Bench是什么?
A:SpaceCast-Bench是浙江大学团队推出的首个专门评估AI"预测空间变化"能力的测试集,包含3862道题、182个真实场景、16种任务类型,考察模型在观察场景后能否推理出干预或变化发生后的未见结果。
Q2:为什么空间专家模型在SpaceCast-Bench上表现这么差?
A:因为这些模型主要针对"看懂当下场景"这类静态感知任务训练,缺乏专门针对"动作发生后场景会怎样"的预测性训练,导致它们碰到真正的预测题时准确率接近随机瞎猜水平,比通用商业模型还低。
Q3:给AI模型做空间推理题时,思维链提示有用吗?
A:论文发现思维链提示效果并不稳定,有的模型某个难度层级会因此提分,另一个层级反而掉分,说明思维链不能自动纠正模型本身错误的空间推理方向,它的效果取决于模型原本的空间理解水平。