PIArena: 프롬프트 주입 평가 플랫폼

PIArena: A Platform for Prompt Injection Evaluation

프롬프트 주입 공격은 다양한 실제 응용 분야에서 심각한 보안 위험을 초래합니다. 최근 많은 관심을 받고 있지만, 프롬프트 주입 평가를 위한 통합 플랫폼의 부재라는 중요한 문제가 존재합니다. 이는 방어 기법의 신뢰성 있는 비교, 다양한 공격 환경에서의 진정한 견고성 이해, 그리고 다양한 작업 및 벤치마크에서의 일반화 정도 평가를 어렵게 만듭니다. 실제로 처음에는 효과적인 것으로 보고된 많은 방어 기법들이 다양한 데이터셋과 공격에 대해 제한적인 견고성을 보이는 것으로 나타났습니다. 이러한 문제를 해결하기 위해, 우리는 최첨단 공격 및 방어 기법을 쉽게 통합하고 기존 및 새로운 벤치마크에서 평가할 수 있도록 설계된 통합적이고 확장 가능한 프롬프트 주입 평가 플랫폼인 PIArena를 소개합니다. 또한, 방어 시스템의 피드백에 따라 주입되는 프롬프트를 능동적으로 최적화하는 동적 전략 기반 공격 방식을 설계했습니다. PIArena를 사용하여 수행한 종합적인 평가를 통해, 최첨단 방어 기법의 중요한 한계점, 즉 작업 간의 제한적인 일반화, 적응형 공격에 대한 취약성, 그리고 주입된 작업이 대상 작업과 일치할 때 발생하는 근본적인 어려움을 밝혀냈습니다. 코드와 데이터셋은 https://github.com/sleeepeer/PIArena 에서 확인할 수 있습니다.

Prompt injection attacks pose serious security risks across a wide range of real-world applications. While receiving increasing attention, the community faces a critical gap: the lack of a unified platform for prompt injection evaluation. This makes it challenging to reliably compare defenses, understand their true robustness under diverse attacks, or assess how well they generalize across tasks and benchmarks. For instance, many defenses initially reported as effective were later found to exhibit limited robustness on diverse datasets and attacks. To bridge this gap, we introduce PIArena, a unified and extensible platform for prompt injection evaluation that enables users to easily integrate state-of-the-art attacks and defenses and evaluate them across a variety of existing and new benchmarks. We also design a dynamic strategy-based attack that adaptively optimizes injected prompts based on defense feedback. Through comprehensive evaluation using PIArena, we uncover critical limitations of state-of-the-art defenses: limited generalizability across tasks, vulnerability to adaptive attacks, and fundamental challenges when an injected task aligns with the target task. The code and datasets are available at https://github.com/sleeepeer/PIArena.