구조화된 자기회귀 모델을 이용한 장기 교통 시뮬레이션

Long-term Traffic Simulation via Structured Autoregressive Modeling

대규모 자율 주행 환경 모델 구축에 있어, 실시간 교통 시뮬레이션은 매우 중요한 역할을 합니다. 특히, 장기적인 시뮬레이션에서 지속적인 다중 에이전트 간의 상호 작용을 모델링하는 것은 큰 과제이며, 이는 에이전트가 끊임없이 등장하고 사라지면서 토큰의 동적 변화가 발생하기 때문에 더욱 복잡해집니다. 본 연구에서는 이러한 문제에 대한 해결책으로, 대규모 시퀀스 모델(예: Large Language Models, LLM)의 구조적 편향성과 통계적 사전 지식 간의 상호 작용을 제안합니다. 실험 결과, 어텐션 메커니즘의 전이 가능성 및 모션 토큰과 자연어 간의 분포 일관성이 작은 규모의, 대부분 고정된 LLM이 교통 모델링에 빠르게 적응할 수 있도록 함을 보여줍니다. 이러한 통찰력을 바탕으로, 장면 위상, 에이전트 상태 및 생성 의도를 가변 길이의 구조화된 자기회귀 스트림으로 투영하는 통합 프레임워크인 RosettaSim을 소개합니다. RosettaSim은 단기 정확도와 장기 시뮬레이션의 안정성을 모두 제공합니다. 또한, 확장된 시뮬레이션 결과 분석은 또 다른 과제를 제시하는데, 이는 시간이 지남에 따라 에이전트 간의 일대일 대응 관계가 점차 사라지기 때문입니다. 이를 해결하기 위해, 문맥 인식을 바탕으로 실제 시나리오와 의미적으로 유사한 정보를 검색하여 참조 기준으로 활용하는 Retrieval-based Traffic Evaluation (RTE) 방법을 제안합니다. Waymo Open Sim Agent Challenge (WOSAC) 데이터셋에 대한 실험 결과, RosettaSim은 단기 및 장기 시뮬레이션 모두에서 최첨단 성능을 달성함을 보여줍니다. 또한, RTE는 기존 방법보다 표준 지표와의 상관관계가 더 높습니다(r=0.83 vs r=0.74), 이는 장기 시뮬레이션의 정확도와 더욱 밀접하게 일치한다는 것을 나타냅니다.

Interactive traffic simulation is a vital world model for autonomous driving. A central challenge in long-horizon simulation is modeling sustained multi-agent interactions, which is further exacerbated by dynamic token cardinality as agents continuously enter and exit the scene. In this work, we propose that the solution lies in the synergy between the architectural inductive biases and statistical priors of large-scale sequence models, e.g., Large Language Models (LLMs). Our probing experiments reveal that the transferability of attention mechanisms and the distributional consistency between motion tokens and natural language enable small-scale, heavily frozen LLMs to rapidly adapt to traffic modeling. Building on this insight, we introduce RosettaSim, a unified framework that projects scene topology, agent states, and spawning intents into a structured autoregressive stream with variable length, achieving both strong short-term accuracy and stable long-horizon simulation fidelity. Furthermore, evaluating extended rollouts presents yet another hurdle, as one-to-one agent correspondence inevitably fades over time. To address this, we introduce Retrieval-based Traffic Evaluation (RTE), which retrieves semantically similar real-world scenarios as context-aware reference anchors. Experiments on the Waymo Open Sim Agent Challenge (WOSAC) demonstrate that RosettaSim achieves state-of-the-art performance in both short- and long-term simulation. Furthermore, RTE exhibits a stronger correlation with standard metrics ($r=0.83$) than existing approaches ($r=0.74$), indicating improved alignment with long-horizon simulation fidelity.