HALO: 안전한 에이전트 실행을 위한 지역적 제약을 통한 이질적인 허용

HALO: Heterogeneous Admission through Localized Obligations for Safe Agentic Execution

최근의 에이전트 기반 AI 시스템은 알림, 요청, 핸드오프 및 액션 등 다양한 응답을 반환할 수 있습니다. 외부 사용 전에 조건이 변경될 수 있으므로, 동일한 응답 내의 구성 요소들이 항상 함께 지원되는 것은 아닙니다. 전체 응답을 거부하면 유용한 구성 요소를 잃게 되지만, 각 구성 요소를 개별적으로 확인하면 종속성 있는 구성 요소가 필요한 선행 조건을 갖추지 못할 수 있습니다. 본 논문에서는 지역적 제약을 통한 이질적인 허용(Heterogeneous Admission with Localized Obligations, HALO)이라는 런타임 프로토콜을 제시합니다. HALO는 지원되는 구성 요소 중 선행 조건 또한 유지되는 구성 요소를 보존하고, 각 액션을 정확하게 재검증하며, 차단된 액션은 기존 액션이 아닌 새로운 후보로만 대체하도록 합니다. HALO는 모든 96개의 허용 기준을 충족했으며, 20개의 프로토콜 테스트를 모두 통과했습니다. 구조화된 응답 재생 시나리오에서, HALO는 248/248개의 지원되는 구성 요소를 유지했으며, 이 중 128/128개는 관련 없는 변경 사항에 영향을 받지 않았습니다. 반면 전체 응답 정책은 0/248개의 구성 요소만 유지했습니다. 또한, PX4/Gazebo 환경에서 수행된 10회의 콜드 스타트 세션 동안, HALO는 테스트된 모든 유효하지 않은 경로를 차단했으며, 일치하는 유효하지 않은 설정값을 관찰하지 못했고, 모든 새로운 복구 작업을 성공적으로 완료했습니다.

Recent agentic AI systems may return a heterogeneous response containing notices, requests, handoffs, and actions. Conditions can change before external use, so components from the same response need not remain supported together. Rejecting the whole response discards useful components, whereas checking components independently can leave a dependent without its prerequisite. We present Heterogeneous Admission with Localized Obligations (HALO), a runtime protocol that preserves supported components whose declared prerequisites also remain supported, rechecks each exact action before dispatch, and allows blocked actions to be replaced only by fresh candidates. HALO matched all 96 admission expectations and passed all 20 protocol tests. In structured-response replay, it retained 248/248 supported components, including 128/128 unaffected by unrelated changes, while a whole-response policy retained 0/248. Across ten cold-start PX4/Gazebo sessions, HALO blocked every tested stale route, observed no matching stale setpoint, and completed all fresh recoveries.