AdapTime: 대규모 언어 모델에서 적응형 시간 추론 활성화

AdapTime: Enabling Adaptive Temporal Reasoning in Large Language Models

대규모 언어 모델은 일반 지식 질문 응답에서 강력한 추론 능력을 보여주었습니다. 그러나 시간 정보를 처리하는 능력은 여전히 제한적입니다. 이러한 한계를 해결하기 위해 기존 접근 방식은 종종 외부 도구 또는 수동 검증을 포함하며 특정 시나리오에 맞춰져 있어 일반화 성능이 좋지 않습니다. 또한, 이러한 방법은 모든 질문에 대해 고정된 파이프라인을 적용하여, 서로 다른 유형의 시간 관련 질문이 서로 다른 추론 전략을 필요로 한다는 점을 간과하여, 단순한 경우에는 불필요한 처리를 수행하고 복잡한 경우에는 충분한 추론을 제공하지 못합니다. 이에, 우리는 입력 컨텍스트에 따라 추론 단계를 동적으로 실행하는 적응형 시간 추론 방법인 AdapTime을 제안합니다. 구체적으로, AdapTime은 재구성, 재작성, 검토라는 세 가지 시간 추론 작업을 포함하며, LLM 기반의 플래너가 추론 과정을 안내합니다. AdapTime은 최첨단 LLM과 원활하게 통합되며, 외부 지원 없이도 LLM의 시간 추론 능력을 크게 향상시킵니다. 광범위한 실험을 통해 제안하는 방법의 효과성을 입증했습니다.

Large language models have demonstrated strong reasoning capabilities in general knowledge question answering. However, their ability to handle temporal information remains limited. To address this limitation, existing approaches often involve external tools or manual verification and are tailored to specific scenarios, leading to poor generalizability. Moreover, these methods apply a fixed pipeline to all questions, overlooking the fact that different types of temporal questions require distinct reasoning strategies, which leads to unnecessary processing for simple cases and inadequate reasoning for complex ones. To this end, we propose AdapTime, an adaptive temporal reasoning method that dynamically executes reasoning steps based on the input context. Specifically, it involves three temporal reasoning actions: reformulate, rewrite and review, with an LLM planner guiding the reasoning process. AdapTime integrates seamlessly with state-of-the-art LLMs and significantly enhances their temporal reasoning capabilities without relying on external support. Extensive experiments demonstrate the effectiveness of our approach.