더 나은 분해, 자유로운 통합: 다국어 멀티홉 질문 응답을 위한 합성-접기 프레임워크

Better Decomposition, Free Aggregation: A Synthesizer-Folding Framework for Multilingual Multi-Hop Question Answering

다국어 검색 증강 생성(mRAG)은 대규모 언어 모델에 전 세계적으로 분산된 외부 지식에 대한 접근 권한을 제공하여 복잡한 다국어 질문 응답을 가능하게 한다. 최근 연구에서는 교차 언어 의미 격차를 해소하기 위해 검색된 문서를 영어 또는 쿼리 언어로 번역하거나, 복잡한 쿼리를 하위 질문으로 분해하고 중간 추론 과정을 통합하는 방식이 사용된다. 그러나 이 두 가지 접근 방식 모두 두 가지 제한점을 가지고 있다. 첫째, 일률적인 번역 정렬은 대상 언어에 고유한 문화적 및 언어적 정보를 무시하고, 번역 오류를 발생시키며 시스템 비용을 증가시킨다. 둘째, 탐욕적인 분해 및 통합은 통제되지 않은 분해로 인해 단계별 추론 과정에서 중복된 하위 질문이 생성되어 오류가 누적되고, 최종적으로 추론 경로에 대한 통합 과정에서 이러한 오류가 더욱 증폭된다. 우리는 이 문제를 해결하기 위해 Syfer라는 다국어 멀티홉 질문 응답을 위한 합성-접기 프레임워크를 제안한다. Syfer는 기본적으로 번역을 수행하는 대신 번역을 지연시킨다. 먼저 형식 제한 분해기를 사용하여 원래 언어로 하위 질문 그래프를 생성하고, 분해 품질 검사를 수행한다. 이 검사가 통과되면 하위 질문은 대상 언어에서 순차적으로 답변되며, 검사에 실패한 경우에만 양방향 하위 질문 그래프 정렬을 통해 영어 번역 경로가 활성화된다. 여러 언어로 진행된 실험 결과, Syfer는 경쟁력 있는 정확도를 달성하면서 성능과 계산 비용 간의 균형을 효과적으로 유지하는 것으로 나타났다.

Multilingual retrieval-augmented generation (mRAG) equips large language models with access to globally distributed external knowledge for complex multilingual question answering. Recent approaches either translate retrieved documents into English or the query language to bridge the cross-lingual semantic gap, or decompose a complex query into sub-questions and aggregate the intermediate reasoning process. However, both lines of work suffer from two limitations. First, one-size-fits-all translation alignment, blanket translation discards culturally and linguistically native information unique to the target language, introduces translation noise, and inflates system cost. Second, greedy decomposition and aggregation, uncontrolled decomposition produces redundant sub-questions that compound errors during step-wise reasoning, and the final aggregation over reasoning paths further amplifies these errors. We address both with our method Syfer, a synthesizer-folding framework for multilingual multi-hop question answering that defers translation rather than applying it by default. Syfer first invokes a format-constrained decomposer to produce a sub-question graph in the original language, followed by a decomposition-quality check; when the check passes, sub-questions are answered sequentially under a retrieve-then-answer policy in the target language, and the English translation pathway with bilingual sub-question graph alignment is activated only when the check fails. Experiments across multiple languages show that Syfer attains competitive accuracy while striking a favourable balance between performance and computational cost.