ARMOR: 저자원 통신 분야 질의응답을 위한 적응형 검색 최적화

ARMOR: Adaptive Retriever Optimization for Low-Resource Telecom Question Answering

통신 분야 질의응답(QA)은 검색 기반 생성(RAG) 시스템에게 어려운 과제입니다. 그 이유는 증거 자료가 표준 문서, 논문, 백과사전 및 웹 문서에 분산되어 있으며, 답변이 종종 기술 표, 방정식 및 전문 프로토콜 언어에 의존하기 때문입니다. 저자원 분야에서는 생성 모델의 미세 조정(fine-tuning)이 과도하게 특화되어 일반적인 능력을 저하시킬 수 있으므로, 질의 측면에서 검색 시스템을 적응시키는 것이 매력적인 대안이 될 수 있습니다. 본 연구에서는 고정된 생성 모델을 사용하는 질의 기반 적응형 RAG 시스템이 생성 모델 자체를 미세 조정하는 방식보다 우수한 성능을 낼 수 있는지, 그리고 어떤 검색 목표가 이러한 설정을 가장 잘 지원하는지 질문합니다. 우리는 용량 비교를 통해 검색 시스템을 미세 조정하는 것이 생성 모델 미세 조정보다 더 효과적임을 주장합니다. 즉, 제한된 파라미터와 소프트 검색이라는 가정 하에서, 질의 인코더 튜닝은 유효 차원이 작을 경우 감독 학습 기반 미세 조정보다 작은 추정 오차를 가질 수 있습니다. 우리는 특히 관련성이 높은 두 가지 목표, 즉 생성 유용성을 최적화하는 잠재 문서 RAG 가능도와 의미 검색 정확도를 향상시키는 InfoNCE 대비 목적 함수를 식별하고, 이러한 목표들을 결합하여 통신 분야의 다운스트림 QA 성능을 개선하는 검색 시스템 최적화 방법을 개발했습니다. 구체적으로, 우리는 ARMOR(Adaptive Regularized Mixture Optimization for Retrievers)이라는 적응형 정규화 혼합 최적화 기법을 소개합니다. ARMOR은 RAG 검색 분포와 InfoNCE 소프트맥스에 대한 별도의 온도를 학습하고, 적응된 질의 인코더를 고정된 기본 질의 인코더로 정규화합니다. 통신 분야 특정 검색 및 생성 QA 벤치마크에서 실험 결과, ARMOR은 다양한 환경에서 증거 검색 및 답변 생성을 개선하는 것으로 나타났습니다. 관련 코드는 다음 GitHub 저장소에서 확인할 수 있습니다: https://github.com/heshandevaka/ARMOR.git.

Telecom question answering (QA) is a challenging setting for retrieval-augmented generation (RAG): evidence is fragmented across standards, papers, encyclopedic resources, and web documents, and answers often hinge on technical tables, equations, and specialized protocol language. In low-resource subdomains, generator fine-tuning can over-specialize and degrade general capability, making query-side retriever adaptation an attractive alternative. To this end, we ask whether a fixed-generator, query-adapted RAG system can outperform generator-side adaptation, and which retriever objectives best support that setting. We motivate retrieval, rather than generator fine-tuning, as the adaptation target through a capacity comparison: under bounded-parameter and soft-retrieval assumptions, query-encoder tuning can have a smaller estimation term than supervised fine-tuning when its effective dimension is smaller. We identify two particularly relevant objectives -- the latent-document RAG likelihood, which optimizes generation utility, and the InfoNCE contrastive objective, which improves semantic retrieval geometry -- and leverage them jointly through a retriever optimization method targeting downstream QA performance in the telecom domain. Specifically, we introduce ARMOR, Adaptive Regularized Mixture Optimization for Retrievers, which learns separate temperatures for the RAG retrieval distribution and InfoNCE softmax and regularizes the adapted query encoder toward the frozen base query encoder. Across telecom-specific retrieval and generative QA benchmarks, we show that ARMOR improves evidence retrieval and answer generation in several in-domain settings. Code is available at https://github.com/heshandevaka/ARMOR.git.