신경 심볼릭 인공지능을 위한 RAIL 원칙: 추론, 보증, 인터페이스 및 학습

The RAIL Principles for Neurosymbolic AI: Reasoning, Assurances, Interfacing and Learning

머신 러닝과 심볼릭 추론을 통합하는 신경 심볼릭 인공지능 시스템은 빠르게 주목받고 있습니다. 이러한 시스템은 신경망 및 언어 모델의 데이터 중심 통계적 접근 방식을 상쇄하며, 많은 실제 응용 분야에서 나타나는 데이터 부족 환경이나 고위험 영역에서 작동할 수 있도록 심볼릭 추론 알고리즘을 활용합니다. 우리는 머신 러닝과 형식적 추론의 신경 심볼릭 결합이 인공지능 내의 특정 기술이 아니라, 신뢰성, 효율성 및 궁극적으로는 신뢰할 수 있는 시스템 개발에 중요한 다양한 기존 기술들을 포함한다고 주장합니다. 이러한 관점은 현재 인공지능 시스템 설계에 대한 재검토를 촉구합니다. 우리는 많은 선도적인 인공지능 시스템들이, 전통적으로 신경 심볼릭으로 간주되지 않는 시스템을 포함하여, 신경 심볼릭 인공지능 설계의 네 가지 원칙인 추론(Reasoning), 보증(Assurances), 인터페이스(Interfacing) 및 학습(Learning)(RAIL) 관점에서 분석될 수 있음을 보여줍니다. RAIL 프레임워크를 적용하면 물리 현상에 대한 이해를 가진 머신 러닝부터 신경망 기반 탐색(예: Google DeepMind의 Alpha-* 제품군), 인과적 학습, 도구 활용 대규모 언어 모델 등, 겉으로는 매우 다른 인공지능 시스템들에 대해 통일된 관점을 제공합니다. 또한, RAIL 원칙은 엔지니어가 실제 수준의 인공지능 시스템 설계 및 배포에 대한 더 나은 정보와 원칙에 따른 결정을 내릴 수 있도록 지원합니다. 본 논문에서는 RAIL 원칙을 소개하고, 이러한 원칙이 인공지능의 주요 영역에서 어떻게 적용될 수 있는지 살펴보고, 실무자들이 신경 심볼릭 방법을 차세대 인공지능 기술에 통합하도록 안내하는 데 어떻게 활용될 수 있는지 설명합니다.

Neurosymbolic AI systems that integrate machine learning and symbolic reasoning are rapidly gaining attention. They complement the data-intensive statistical approaches of neural networks and language models with symbolic reasoning algorithms to function in high-stakes domains or in low-data regimes that characterize many real-world applications. We argue that the neurosymbolic combination of machine learning and formal reasoning is not a niche approach within AI, but rather includes many already successful techniques that are of crucial importance to the development of reliable, efficient and, ultimately, trustworthy systems. This perspective prompts a re-examination of the design of current AI systems. We show that many leading AI systems, including some that are not traditionally considered as neurosymbolic, can be analysed from the perspective of four principles of neurosymbolic AI design: Reasoning, Assurances, Interfacing and Learning (RAIL). Applying the RAIL framework offers a unified view of seemingly disparate AI systems, ranging from physics-aware machine learning to neuro-guided search (such as Google DeepMind's Alpha-* suite), causal learning and tool-augmented Large Language Models. Importantly, the RAIL principles will enable engineers to make better-informed and more principled decisions about the design and deployment of production-level AI systems. In this article, we introduce the RAIL principles, examine how they can be applied across major areas of AI, and illustrate how they may guide practitioners to integrate neurosymbolic methods into next-generation AI technologies.