LLM에서의 메타인지: 기초, 발전 및 기회

Metacognition in LLMs: Foundations, Progress, and Opportunities

메타인지는 효과적인 학습, 문제 해결, 의사 결정, 의사소통 등 지능의 핵심 구성 요소입니다. 최근 들어, 메타인지는 유능하고 투명한 인공지능 시스템의 중요한 기반으로 인식되고 있습니다. 그러나 LLM이 다양한 실제 작업에서 상당한 발전을 이루었음에도 불구하고, LLM이 언제, 어떻게, 그리고 어느 정도까지 효과적인 메타인지 능력을 나타내거나 갖추게 될 수 있는지, 그리고 이러한 능력이 AI 시스템의 근본적인 능력, 신뢰성 및 지능을 향상시키는 데 어떻게 활용될 수 있는지에 대한 명확성은 아직 부족합니다. 본 논문은 LLM에 대한 현재까지의 메타인지 관련 지식 현황을 종합적으로 개괄함으로써 이 격차를 해소하고자 합니다. 우리는 이 새롭게 떠오르는 분야의 지형을 분석하고 분류하며, LLM의 메타인지 능력을 측정하고 평가하기 위한 방법 및 벤치마크, LLM에서 메타인지를 유도, 개선 및 적용하는 기술, 그리고 진행 중인 연구의 결과와 함의를 요약합니다. 또한, 응용 분야, 미해결 과제 및 도전 과제, 그리고 향후 연구에 대한 유망한 방향을 논의합니다. 본 연구는 이 주제에 대한 상세하고 최신 정보를 제공하여 의미 있는 연구와 토론을 촉진하는 것을 목표로 합니다. 관련 논문 목록은 https://github.com/yale-nlp/LLM-Metacognition 에서 확인할 수 있습니다.

Metacognition is a foundational component of intelligence critical to effective learning, problem solving, decision-making, communication, and more. In recent years, it has become increasingly recognized as a cornerstone of capable, transparent AI systems. Yet while LLMs have made significant progress across diverse real-world tasks, it is not yet clear when, how, or to what extent they can exhibit or be endowed with effective metacognitive abilities, nor how such abilities can be adapted to advance the fundamental capabilities, reliability, and intelligence of AI systems. This paper bridges this gap by presenting the first comprehensive overview of the current state of knowledge on metacognition for LLMs. We analyze and taxonomize the landscape of this emerging field and summarize recent technical advancements, including methods and benchmarks to measure and evaluate LLMs' metacognitive abilities, techniques to elicit, improve, and apply metacognition in LLMs, and findings and implications of ongoing research. We also discuss applications, open questions and challenges, and promising directions for future work. Our aim is to provide a detailed and up-to-date review of this topic and stimulate meaningful research and discussion. An organized list of papers can be found at https://github.com/yale-nlp/LLM-Metacognition.