데이터 흐름 제어: AI 에이전트를 위한 데이터 안전 정책

Data Flow Control: Data Safety Policies for AI Agents

최근 들어, 에이전트는 SQL 쿼리를 생성하고, 파이프라인을 조정하며, 사용자들을 대신하여 데이터 분석을 자동화하는 경향이 있습니다. 최근 연구는 쿼리 정확성을 향상시키지만, 정확성은 안전과는 다릅니다. 쿼리는 의미적으로 유효할 수 있지만, 데이터가 결합되고 공개되는 방식을 규제하는 법적, 개인 정보 보호 또는 비즈니스 제약을 위반할 수 있습니다. 우리는 이러한 제약 사항을 적용하는 것이 근본적으로 데이터 인프라 문제라고 주장합니다. 본 논문에서는 데이터 흐름 제어(DFC)라는 프레임워크를 소개하며, 이를 통해 DBMS 쿼리 내의 튜플 레벨 데이터 흐름에 대한 정책 시행을 선언적으로 지정하고 보장할 수 있습니다. 핵심적인 과제는 최적화기에 영향을 미치지 않으면서도 대규모로 효율적으로 적용될 수 있는 정책 언어를 정의하는 것입니다. 우리는 데이터 안전성을 기원 다항식(provenance monomials)에 대한 집계 술어(aggregate predicates)로 형식화하고, DFC 정책을 provenance 정보를 물질화하지 않고 시행하는 이식 가능한 쿼리 재작성 레이어인 Passant를 제시합니다. DuckDB, Umbra, PostgreSQL, DataFusion 및 SQLServer 등 5가지 DBMS 엔진에서 Passant는 약 0%의 오버헤드를 달성하며, 다른 방법보다 훨씬 뛰어난 성능을 보입니다. 결과적으로, 데이터 흐름 제어는 데이터 안전성을 프롬프트와 사후 검사에서 데이터 인프라로 이전하는 첫 번째 단계입니다. 데이터 흐름 제어는 https://github.com/dataflowcontrol/data-flow-control 에서 오픈 소스로 제공됩니다.

Agents increasingly generate SQL, orchestrate pipelines, and automate data analysis on behalf of users. While recent work improves query correctness, correctness is not safety. A query may be semantically valid yet violate regulatory, privacy, or business constraints that govern how data may be combined and released. We argue that enforcing such constraints is fundamentally a data infrastructure problem. This paper introduces Data Flow Control (DFC), a framework to declaratively specify and guarantee policy enforcement over tuple-level data flows within a DBMS query. A key challenge is defining a policy language that is optimizer-invariant yet efficient to enforce at scale. We formalize data safety as aggregate predicates over provenance monomials and present Passant, a portable query rewriting layer that enforces DFC policies without materializing provenance. Across five DBMS engines -- DuckDB, Umbra, PostgreSQL, DataFusion, and SQLServer -- Passant achieves ~0% overhead and outperforms alternatives by orders of magnitude. As a result, Data Flow Control is the first step towards moving data safety from prompts and post-hoc checks into the data infrastructure. Data Flow Control is available open source at https://github.com/dataflowcontrol/data-flow-control.