미래 압축 발전의 유도적 휴리스틱으로서의 흥미성

Interestingness as an Inductive Heuristic for Future Compression Progress

재귀적으로 자기 개선되는 시스템으로 나아가는 데 있어 주요 장애물 중 하나는 '흥미성'이라는 문제입니다. 흥미성이란, 미래의 발전을 잠재적으로 이끌 수 있는 작업이나 데이터를 예측적으로 식별하는 능력입니다. 본 연구에서는 흥미성을 미래 압축 발전의 유도적 휴리스틱으로 공식화하고, Kolmogorov 복잡도 및 알고리즘 통계의 도구를 사용하여 그 예측 가능성을 조사합니다. Length, Algorithmic, Speed 사전(prior) 하에서의 복잡도-실행 시간 프로필을 분석하여, 흥미성의 유도적 특성 – 즉, 과거의 발전이 미래의 발견을 예측할 수 있는 능력 – 이 이론적으로 타당하며 경험적으로 뒷받침됨을 보여줍니다. 또한, 기대되는 미래 발전은 마지막으로 관찰된 혁신의 최신성에 따라 지수적으로 증가한다는 것을 증명합니다. 더욱이, 알고리즘 사전이 Length 사전보다 훨씬 낙관적인 것으로 나타났으며, 동일한 관찰된 프로필에서 기대되는 발견량이 제곱으로 증가합니다. 이러한 결과는 세 가지 다양한 범용 컴퓨팅 패러다임을 통해 실험적으로 확인되었습니다.

One of the bottlenecks on the way towards recursively self-improving systems is the challenge of interestingness: the ability to prospectively identify which tasks or data hold the potential for future progress. We formalize interestingness as an inductive heuristic for future compression progress and investigate its predictability using tools from Kolmogorov Complexity and Algorithmic Statistics. By analyzing complexity-runtime profiles under Length, Algorithmic, and Speed priors, we demonstrate that the inductive property of interestingness -- the capacity for past progress to signal future discovery -- is theoretically viable and empirically supported. We prove that expected future progress depends exponentially on the recency of the last observed breakthrough. Furthermore, we show that the Algorithmic Prior is significantly more optimistic than the Length Prior, yielding a quadratic increase in expected discovery for the same observed profile. These findings are experimentally confirmed across three diverse universal computational paradigms.