통제에서 예측으로: 시뮬레이션을 인간-에이전트 협업의 새로운 패러다임으로

From Control to Foresight: Simulation as a New Paradigm for Human-Agent Collaboration

대규모 언어 모델(LLM)은 복잡하고 다단계 작업을 수행하는 자율 에이전트를 구동하는 데 점점 더 많이 사용되고 있습니다. 그러나 인간-에이전트 상호작용은 여전히 지점에 묶여 있으며 반응적입니다. 사용자는 즉각적인 위험을 완화하기 위해 개별적인 행동을 승인하거나 수정하지만, 그 이후의 결과에 대한 정보가 부족합니다. 이는 사용자가 장기적인 영향을 정신적으로 시뮬레이션하도록 강제하며, 이는 인지적으로 부담이 크고 종종 부정확한 과정입니다. 사용자는 개별 단계에 대한 통제권을 가지고 있지만, 정보에 입각한 결정을 내릴 수 있는 예측 능력은 부족합니다. 우리는 효과적인 협업에는 통제뿐만 아니라 예측이 필요하다고 주장합니다. 우리는 사용자와 에이전트가 결정을 내리기 전에 시뮬레이션된 미래 경로를 탐색할 수 있도록 하는 상호작용 패러다임인 '시뮬레이션 통합 방식'을 제안합니다. 시뮬레이션은 개입을 반응적인 추측에서 정보에 입각한 탐색으로 전환하는 동시에, 사용자가 잠재적인 제약 조건과 선호도를 발견하도록 돕습니다. 본 논문에서는 현재 패러다임의 한계를 분석하고, 시뮬레이션 기반 협업을 위한 개념적 프레임워크를 소개하며, 구체적인 인간-에이전트 협업 시나리오를 통해 그 잠재력을 보여줍니다.

Large Language Models (LLMs) are increasingly used to power autonomous agents for complex, multi-step tasks. However, human-agent interaction remains pointwise and reactive: users approve or correct individual actions to mitigate immediate risks, without visibility into subsequent consequences. This forces users to mentally simulate long-term effects, a cognitively demanding and often inaccurate process. Users have control over individual steps but lack the foresight to make informed decisions. We argue that effective collaboration requires foresight, not just control. We propose simulation-in-the-loop, an interaction paradigm that enables users and agents to explore simulated future trajectories before committing to decisions. Simulation transforms intervention from reactive guesswork into informed exploration, while helping users discover latent constraints and preferences along the way. This perspective paper characterizes the limitations of current paradigms, introduces a conceptual framework for simulation-based collaboration, and illustrates its potential through concrete human-agent collaboration scenarios.