MultiSessionCollab: 기억을 활용하여 사용자 선호도를 학습하고 장기 협업을 향상시키는 방법

MultiSessionCollab: Learning User Preferences with Memory to Improve Long-Term Collaboration

대화형 에이전트가 사용자와 협력하는 경험을 쌓으면서, 사용자 선호도에 적응하는 것은 장기적인 관계를 구축하고 시간이 지남에 따라 협업 품질을 향상시키는 데 필수적입니다. 본 논문에서는 에이전트가 사용자 선호도를 얼마나 잘 학습하고 이를 활용하여 여러 세션 동안 협업 품질을 향상시키는지 평가하는 벤치마크인 MultiSessionCollab을 소개합니다. 이 환경에서 성공적인 에이전트를 개발하기 위해, 저희는 상호 작용 경험이 쌓이면서 사용자 선호도를 지속적으로 유지하고 개선하는 메모리 기능을 갖춘 장기 협업 에이전트를 제시합니다. 또한, MultiSessionCollab에서 사용자 시뮬레이터의 행동으로부터 학습 신호를 추출하여 에이전트가 더욱 포괄적인 피드백을 생성하고 메모리를 더욱 효과적으로 업데이트하도록 훈련할 수 있음을 보여줍니다. 광범위한 실험 결과, 메모리 기능을 갖춘 에이전트는 장기 협업을 향상시켜 작업 성공률을 높이고, 상호 작용 효율성을 개선하며, 사용자 노력을 줄이는 것으로 나타났습니다. 마지막으로, 실제 환경에서 메모리가 사용자 경험을 향상시키는 데 도움이 된다는 것을 보여주는 인간 사용자를 대상으로 한 연구를 진행했습니다.

As conversational agents accumulate experience collaborating with users, adapting to user preferences is essential for fostering long-term relationships and improving collaboration quality over time. We introduce MultiSessionCollab, a benchmark that evaluates how well agents can learn user preferences and leverage them to improve collaboration quality throughout multiple sessions. To develop agents that succeed in this setting, we present long-term collaborative agents equipped with a memory that persists and refines user preference as interaction experience accumulates. Moreover, we demonstrate that learning signals can be derived from user simulator behavior in MultiSessionCollab to train agents to generate more comprehensive reflections and update their memory more effectively. Extensive experiments show that equipping agents with memory improves long-term collaboration, yielding higher task success rates, more efficient interactions, and reduced user effort. Finally, we conduct a human user study that demonstrates that memory helps improve user experience in real-world settings.