작업 지향적 무작위화를 통한 블랙박스 알고리즘 안정화

Stabilizing black-box algorithms through task-oriented randomization

블랙박스 모델이 현대 연구의 기반이 되면서, 신뢰할 수 있는 인공지능을 구현하기 위해서는 이러한 모델들의 안정성을 확보하는 것이 매우 중요합니다. 입력 데이터의 다양성 – 구조화된 가우스 분포부터 알려지지 않은 구조를 가진 복잡한 데이터까지 – 은 상당한 과제를 제시합니다. 즉, 사용 가능한 사전 정보를 효과적으로 활용하면서 블랙박스 출력의 안정성을 어떻게 확보할 수 있는가 하는 문제입니다. 본 논문에서는 입력 데이터의 근본적인 생성 메커니즘에 적응하여 전략을 조정하는 작업 지향적 무작위화 방법론을 소개하며, 특히 비정형 복잡성에 대한 문제를 해결합니다. 또한, 안정성 보장을 위한 포괄적인 방법을 제시합니다. 본 연구는 안정성을 위한 엄격한 이론적 기반을 확립할 뿐만 아니라, 안정성과 탐색 간의 고유한 균형 관계에 대한 상세한 분석을 제공합니다. 대규모 언어 모델(LLM)의 아키텍처에서 영감을 받아, 제안된 프레임워크는 상위 k개 순위 결정 문제로 확장되었습니다. 제안된 방법의 유효성과 효과성은 광범위한 수치 시뮬레이션 및 실제 데이터셋에 대한 적용을 통해 입증됩니다.

As black-box models become foundational to modern research, ensuring their stability is paramount for the realization of trustworthy artificial intelligence. The inherent diversity of inputs - ranging from structured Gaussian distributions to complex data with unknown structures - poses a significant challenge: how to stabilize black-box outputs while effectively leveraging available prior information. This paper introduces a task-oriented randomization methodology that adaptively tailors its strategy to the underlying generative mechanisms of the input data, specifically addressing unstructured complexities. A comprehensive suite of stability guarantees is proposed. Beyond establishing rigorous theoretical foundations for stability, the research provides a detailed analysis of the intrinsic trade-off between stability and exploration. Motivated by the architecture of Large Language Models, the framework is further extended to top-k ranking problems. The validity and effectiveness of the proposal are demonstrated through extensive numerical simulations and applications to the real-world dataset.