Loong: 관찰 및 행동 기반 적응적 문맥 선택을 통한 인간과 유사한 장문 번역 에이전트

Loong: A Human-Like Long Document Translation Agent with Observe-and-Act Adaptive Context Selection

장문 번역은 대규모 언어 모델에게 여전히 가장 어려운 과제 중 하나이며, 제한된 문맥 창 때문에 전체적인 일관성을 유지하는 데 어려움을 겪고 있으며, 동시에 불필요한 문맥 정보로 인해 번역 품질이 저하되는 문제가 있습니다. 이러한 문제를 해결하기 위해, 우리는 핵심(Essence), 예시(Exemplar), 개체(Entity) 메모리 모듈을 활용하여 요약, 문장 쌍 및 개체 정보를 역사적 맥락으로 저장하는 인간과 유사한 장문 번역 에이전트인 Loong을 제안합니다. Loong은 수동적으로 모든 이력을 참조하는 대신, 심층적인 추론을 통해 번역 지침을 위한 최적의 문맥을 적응적으로 식별합니다. Loong은 강화 학습을 통해 자체 생성된 관찰 및 행동 추론 경로에서 얻은 선호도 데이터를 활용하여 맥락 정책을 최적화합니다. 실험 결과는 Loong이 영어 $ ightarrow$ 중국어, 독일어 및 프랑스어 번역 방향 모두에서 상당한 번역 품질 향상을 달성했으며, 세 가지 평가 지표에 걸쳐 평균 13.0점의 이득을 보였습니다. 또한, Loong은 다양한 도메인에서 뛰어난 일반화 능력을 보여주며 문맥적 잡음에 강건하고, 매우 긴 문서 번역에서도 안정적인 성능을 유지합니다. 저희 코드는 https://github.com/YutongWang1216/LoongDocMT 에서 공개됩니다.

Document-level translation remains one of the most challenging tasks for large language models, which are constrained by limited context windows that impede global cohesion, while simultaneously suffering from redundant contextual information that degrades translation quality. To address this, we propose a human-like long document translation agent called Loong, which leverages a 3E memory module (Essence-Exemplar-Entity) to store summaries, sentence pairs, and entity records as historical context. Instead of passively attending to all history, Loong performs deep reasoning to adaptively identify the optimal context for translation guidance. Loong optimizes its context policy through reinforcement learning, utilizing preference data derived from its own sampled observe-and-act reasoning trajectories. Empirical evaluations demonstrate that Loong achieves substantial translation quality improvements in English $\Leftrightarrow$ Chinese, German, and French directions, with average gains of up to 13.0 points across the three evaluation metrics. Furthermore, Loong exhibits strong generalization across domains and robustness against contextual noise, while maintaining remarkable stability in ultra-long document translation. Our code is released at https://github.com/YutongWang1216/LoongDocMT.