ADVENT: LLM 기반의 자동적인 술어 발명 기법을 이용한 유도 논리 프로그래밍

ADVENT: LLM-Driven Automatic Predicate Invention for ILP

술어 발명(Predicate Invention, PI)은 가설 탐색 공간을 확장하기 위한 새로운 술어를 생성하는 것으로, 유도 논리 프로그래밍(Inductive Logic Programming, ILP)에서 중요한 난관으로 남아 있습니다. 기존 방법들은 도메인 전문 지식에 의존하며 의미적으로 불투명한 술어를 생성하여, 익숙하지 않은 영역에서의 적용 및 여러 작업 간의 재사용을 어렵게 만듭니다. 본 논문에서는 LLM(Large Language Model) 기반의 PI 기법인 ADVENT를 제안합니다. ADVENT는 LLM의 추론적 생성 능력과 Prolog의 연역적 검증 능력을 결합하여 반복적인 루프를 형성하며, 구체적인 실행 결과가 LLM을 통해 후보 술어를 개선하도록 안내합니다. 본 시스템은 대규모 언어 모델을 활용하여 정형화된 관계 데이터에서 숨겨진 패턴을 식별하고 의미 있는 이름과 정의를 가진 보조 술어를 발명합니다. 발명된 술어와 학습된 규칙은 지식 풀에 축적되어 여러 작업 간의 재사용을 가능하게 합니다. 7개의 LLM 모델을 사용하여 포커 핸드 개념 9개에 대한 실험 결과, LLM 기반 PI는 ILP만으로는 완전히 실패하는 경우에도 58%의 성공률을 달성하며, 형식적인 검증은 이를 80%로 향상시켰습니다. 또한 지식 풀은 최대 +31%의 성능 향상을 가져왔으며, 사람이 이해하기 쉬운 규칙을 생성합니다. 이러한 결과는 ADVENT가 술어 발명을 자동화하고 ILP에서 작업 간 지식 재사용을 가능하게 하는 유망한 방향을 제시한다는 것을 의미합니다.

Predicate invention (PI), the creation of new predicates to extend the hypothesis space, remains a critical bottleneck in Inductive Logic Programming (ILP). Existing methods rely on domain expertise and produce semantically opaque predicates, hindering adaptation to unfamiliar domains and cross-task reuse. We present ADVENT, an LLM-driven PI mechanism for ILP. ADVENT pairs LLM abductive generation with Prolog deductive verification, forming an iterative loop in which concrete execution results guide the LLM to refine candidate predicates. The mechanism leverages Large Language Models to identify implicit patterns in structured relational data and invent auxiliary predicates with meaningful names and definitions. Invented predicates and learned rules accumulate in a knowledge pool for cross-task reuse. Experiments on nine poker-hand concepts across seven LLMs show that LLM-driven PI achieves 58% success rate where ILP alone fails entirely, formal verification raises this to 80%, and the knowledge pool yields gains up to +31 percentage points, while producing human-interpretable rules. These results suggest that ADVENT offers a promising direction for automating predicate invention and enabling cross-task knowledge reuse in ILP.