SpatialClaw: 에이전트 기반 공간 추론을 위한 액션 인터페이스 재고

SpatialClaw: Rethinking Action Interface for Agentic Spatial Reasoning

공간 추론, 즉 3차원 환경에서 객체의 위치를 파악하고, 그들의 관계와 움직임을 이해하는 능력은 시각-언어 모델(VLM)에게 있어 여전히 근본적인 과제입니다. 도구를 활용한 에이전트는 VLM에 특화된 인지 모듈을 추가하여 이 문제를 해결하려 하지만, 이러한 접근 방식의 효과는 해당 도구가 호출되는 액션 인터페이스에 의해 제한됩니다. 본 연구에서는 이 인터페이스의 설계가 에이전트의 개방형 공간 추론 능력에 미치는 영향을 분석합니다. 기존의 공간 추론 에이전트는 단일 단계 코드 실행 방식을 사용하거나, 구조화된 도구 호출 인터페이스에 의존하는데, 이는 종종 자유로운 연산 조합이나 각 작업에 맞춘 분석을 수행하는 데 유연성을 제공하지 못합니다. 이러한 설계는 복잡하고 정교한 3차원/4차원 공간 추론에 있어 제한적인 유연성을 보입니다. 따라서 본 연구에서는 코드 기반의 액션 인터페이스를 채택하여, 별도의 학습 과정 없이 공간 추론을 수행할 수 있는 프레임워크인 SpatialClaw를 제안합니다. SpatialClaw는 입력 프레임과 다양한 인지 및 기하학적 기본 기능을 미리 로드한 상태의 Python 커널을 유지하며, VLM 기반 에이전트는 이전 출력 결과를 바탕으로 각 단계에서 실행 가능한 코드 셀 하나를 작성할 수 있습니다. 이를 통해 에이전트는 인지 결과물을 유연하게 조합하고 조작하며, 중간 텍스트 및 시각적 관찰 내용과 각 문제의 요구 사항에 맞춰 분석을 조정할 수 있습니다. SpatialClaw는 다양한 정적 및 동적 3차원/4차원 공간 추론 작업을 포괄하는 20개의 벤치마크를 통해 평가되었으며, 평균 정확도가 59.9%로, 최근 개발된 공간 추론 에이전트보다 +11.2% 높은 성능을 보였습니다. 또한, 두 가지 모델 패밀리에서 파생된 여섯 개의 VLM 백본에 대해 벤치마크나 모델별 맞춤 설정 없이도 일관된 성능 향상을 달성했습니다.

Spatial reasoning, the ability to determine where objects are, how they relate, and how they move in 3D, remains a fundamental challenge for vision-language models (VLMs). Tool-augmented agents attempt to address this by augmenting VLMs with specialist perception modules, yet their effectiveness is bounded by the action interface through which those tools are invoked. In this work, we study how the design of this interface shapes the agent's capacity for open-ended spatial reasoning. Existing spatial agents either employ single-pass code execution, which commits to a full analysis strategy before any intermediate result is observed, or rely on a structured tool-call interface that often offers less flexibility for freely composing operations or tailoring the analysis to each task. Both designs offer limited flexibility for open-ended, complex 3D/4D spatial reasoning. We therefore propose SpatialClaw, a training-free framework for spatial reasoning that adopts code as the action interface. SpatialClaw maintains a stateful Python kernel pre-loaded with input frames and a suite of perception and geometry primitives, letting a VLM-backed agent write one executable cell per step conditioned on all prior outputs, enabling the agent to flexibly compose and manipulate perception results and adapt its analysis to both intermediate text and visual observations and the demands of each problem. Evaluated across 20 spatial reasoning benchmarks spanning a broad range of static and dynamic 3D/4D spatial reasoning tasks, SpatialClaw achieves 59.9% average accuracy, outperforming the recent spatial agent by +11.2 points, with consistent gains across six VLM backbones from two model families without any benchmark- or model-specific adaptation.