InfiniteWeb: GUI 에이전트 훈련을 위한 확장 가능한 웹 환경 합성 시스템

InfiniteWeb: Scalable Web Environment Synthesis for GUI Agent Training

사용자를 대신하여 그래픽 인터페이스와 상호 작용하는 GUI 에이전트는 실용적인 AI 어시스턴트에 대한 유망한 접근 방식입니다. 그러나 이러한 에이전트를 훈련하는 데는 적합한 환경의 부족이라는 문제가 있습니다. 본 논문에서는 GUI 에이전트 훈련을 위한 기능적인 웹 환경을 대규모로 자동으로 생성하는 시스템인 InfiniteWeb을 소개합니다. LLM은 단일 웹페이지 생성에 효과적이지만, 많은 상호 연결된 페이지로 구성된 현실적이고 기능적인 웹사이트를 구축하는 데는 어려움이 있습니다. 우리는 통일된 명세, 작업 중심의 테스트 주도 개발, 그리고 웹사이트 시드와 참조 디자인 이미지를 결합하여 다양성을 확보함으로써 이러한 문제를 해결합니다. 또한, 제안하는 시스템은 강화 학습을 위한 밀집된 보상 신호를 제공하는 검증 가능한 작업 평가기를 생성합니다. 실험 결과, InfiniteWeb은 현실적인 웹사이트 구축 측면에서 상용 코딩 에이전트를 능가하며, 생성된 환경에서 훈련된 GUI 에이전트는 OSWorld 및 Online-Mind2Web에서 상당한 성능 향상을 보여주어 제안하는 시스템의 효과성을 입증합니다.

GUI agents that interact with graphical interfaces on behalf of users represent a promising direction for practical AI assistants. However, training such agents is hindered by the scarcity of suitable environments. We present InfiniteWeb, a system that automatically generates functional web environments at scale for GUI agent training. While LLMs perform well on generating a single webpage, building a realistic and functional website with many interconnected pages faces challenges. We address these challenges through unified specification, task-centric test-driven development, and a combination of website seed with reference design image to ensure diversity. Our system also generates verifiable task evaluators enabling dense reward signals for reinforcement learning. Experiments show that InfiniteWeb surpasses commercial coding agents at realistic website construction, and GUI agents trained on our generated environments achieve significant performance improvements on OSWorld and Online-Mind2Web, demonstrating the effectiveness of proposed system.