인지 회로 차단기: 내재적 AI 신뢰성을 위한 시스템 엔지니어링 프레임워크

The Cognitive Circuit Breaker: A Systems Engineering Framework for Intrinsic AI Reliability

대규모 언어 모델(LLM)이 점점 더 중요한 소프트웨어 시스템에 적용됨에 따라, 환각 현상 및 "가짜 진실성"을 탐지하는 것은 매우 중요한 엔지니어링 과제가 되었습니다. 현재의 신뢰성 아키텍처는 주로 생성 후의 블랙박스 방식인 검색 증강 생성(RAG) 교차 검증 또는 LLM 평가기 등과 같은 방법을 사용합니다. 이러한 외부 방식은 허용할 수 없는 지연 시간, 높은 계산 오버헤드 및 추가적인 외부 API 호출에 의존하며, 이는 표준 소프트웨어 엔지니어링 서비스 수준 계약(SLA)을 위반하는 경우가 많습니다. 본 논문에서는 인지 회로 차단기(Cognitive Circuit Breaker)라는 새로운 시스템 엔지니어링 프레임워크를 제안합니다. 이 프레임워크는 최소한의 지연 시간 오버헤드로 내재적인 신뢰성 모니터링을 제공합니다. 모델의 순방향 연산 과정에서 숨겨진 상태를 추출하여, LLM의 외부적인 의미적 확신(softmax 확률)과 내부적인 잠재적 확신(선형 프로브를 통해 파생) 사이의 수학적 차이인 "인지 불일치 값(Cognitive Dissonance Delta)"을 계산합니다. 우리는 통계적으로 유의미한 인지 불일치 탐지를 입증하고, 아키텍처에 따라 달라지는 Out-of-Distribution(OOD) 일반화 현상을 강조하며, 이 프레임워크가 활성 추론 파이프라인에 미미한 계산 오버헤드를 추가한다는 것을 보여줍니다.

As Large Language Models (LLMs) are increasingly deployed in mission-critical software systems, detecting hallucinations and ``faked truthfulness'' has become a paramount engineering challenge. Current reliability architectures rely heavily on post-generation, black-box mechanisms, such as Retrieval-Augmented Generation (RAG) cross-checking or LLM-as-a-judge evaluators. These extrinsic methods introduce unacceptable latency, high computational overhead, and reliance on secondary external API calls, frequently violating standard software engineering Service Level Agreements (SLAs). In this paper, we propose the Cognitive Circuit Breaker, a novel systems engineering framework that provides intrinsic reliability monitoring with minimal latency overhead. By extracting hidden states during a model's forward pass, we calculate the ``Cognitive Dissonance Delta'' -- the mathematical gap between an LLM's outward semantic confidence (softmax probabilities) and its internal latent certainty (derived via linear probes). We demonstrate statistically significant detection of cognitive dissonance, highlight architecture-dependent Out-of-Distribution (OOD) generalization, and show that this framework adds negligible computational overhead to the active inference pipeline.