StackingNet: 독립적인 AI 파운데이션 모델 간의 집단 추론

StackingNet: Collective Inference Across Independent AI Foundation Models

대규모 파운데이션 모델을 기반으로 구축된 인공지능은 언어 이해, 시각 및 추론 능력을 혁신적으로 변화시켰지만, 이러한 시스템들은 여전히 고립되어 있어 상호 간의 능력을 쉽게 공유하지 못한다. 신뢰할 수 있는 지능형 시스템을 구축하기 위해서는 이처럼 독립적인 파운데이션 모델들의 상호 보완적인 강점을 통합하는 것이 필수적이다. 개별 모델 설계의 급속한 발전에도 불구하고, 블랙박스 형태의 이질적인 모델들을 조정하는 확립된 접근 방식은 아직 존재하지 않는다. 본 연구에서는 추론 과정에서 모델들의 예측을 결합하기 위해 집단 지성 원리를 활용하는 'StackingNet'이라는 메타 앙상블 프레임워크를 통해 이러한 조정이 가능함을 보여준다. StackingNet은 내부 파라미터나 훈련 데이터에 접근하지 않고도 정확도를 향상시키고, 편향을 줄이며, 신뢰도 순위화를 가능하게 하고, 성능을 저하시키는 모델을 식별하거나 제거한다. 언어 이해, 시각적 추정, 학술 논문 평가를 포함한 다양한 과제에서 StackingNet은 개별 모델 및 기존 앙상블 방식에 비해 정확도, 견고성, 공정성을 일관되게 향상시켰다. 다양성을 불일치의 원인이 아닌 협업의 원천으로 전환함으로써, StackingNet은 조정된 인공지능을 위한 실질적인 토대를 마련하며, AI의 진보가 단순히 더 큰 단일 모델뿐만 아니라 다수의 전문화된 모델 간의 원칙 있는 협력을 통해서도 이루어질 수 있음을 시사한다.

Artificial intelligence built on large foundation models has transformed language understanding, vision and reasoning, yet these systems remain isolated and cannot readily share their capabilities. Integrating the complementary strengths of such independent foundation models is essential for building trustworthy intelligent systems. Despite rapid progress in individual model design, there is no established approach for coordinating such black-box heterogeneous models. Here we show that coordination can be achieved through a meta-ensemble framework termed StackingNet, which draws on principles of collective intelligence to combine model predictions during inference. StackingNet improves accuracy, reduces bias, enables reliability ranking, and identifies or prunes models that degrade performance, all operating without access to internal parameters or training data. Across tasks involving language comprehension, visual estimation, and academic paper rating, StackingNet consistently improves accuracy, robustness, and fairness, compared with individual models and classic ensembles. By turning diversity from a source of inconsistency into collaboration, StackingNet establishes a practical foundation for coordinated artificial intelligence, suggesting that progress may emerge from not only larger single models but also principled cooperation among many specialized ones.