LLM 에이전트에서 안전한 MCP 도구 사용을 위한 하이브리드 분석

Hybrid Analysis for Secure MCP Tool Use in LLM Agents

대규모 언어 모델(LLM) 에이전트의 빠른 발전은 다양한 실제 작업에 광범위하게 적용될 수 있도록 만들었습니다. LLM 에이전트와 외부 환경 간의 상호 작용을 표준화하기 위해, Model Context Protocol (MCP) 도구가 사실상의 표준으로 자리 잡았으며 이러한 시스템에 널리 통합되었습니다. 그러나 MCP 도구 사용은 또한 새로운 안전 위험을 초래합니다. LLM 에이전트는 악의적이거나 권한 없는 작업을 수행하도록 유도될 수 있기 때문입니다. 기존 연구에서는 LLM 에이전트에서 도구 사용을 보호하기 위한 방어 방법을 제안했지만, 대부분의 방법은 정적 분석, 즉 프롬프트와 생성된 출력을 검사하는 방식에 의존하며, 이는 방어 효과성과 견고성을 제한합니다. 이러한 한계를 해결하기 위해, 우리는 MTGuard라는 하이브리드 분석 기반 방어 프레임워크를 제안합니다. MTGuard는 LLM 에이전트에서 MCP 도구 사용을 보호하도록 설계되었으며, 생명 주기 인지 정적-동적 공동 분석을 활용합니다. 광범위한 평가는 MTGuard가 다양한 LLM 에이전트에 걸쳐 여러 범주의 유해한 도구 사용을 효과적으로 완화하는 동시에 정상적인 사용자 작업에 대한 성능을 유지한다는 것을 보여줍니다.

The rapid development of large language model (LLM) agents has enabled their broad adoption across diverse real-world tasks. To standardize interactions between LLM agents and external environments, Model Context Protocol (MCP) tools have emerged as a de facto standard and have been widely integrated into these systems. However, the use of MCP tools also introduces new safety risks, as LLM agents can be induced to perform malicious or unauthorized actions. Although prior work has proposed defenses for securing tool use in LLM agents, most methods rely on static analysis, i.e., inspecting prompts and generated outputs, which limits the defense effectiveness and robustness. To address these limitations, we propose MTGuard, a hybrid analysis-based defense framework designed to safeguard the use of MCP tools in LLM agents by leveraging lifecycle-aware static-dynamic co-analysis. Extensive evaluation demonstrates that MTGuard effectively mitigates multiple categories of harmful tool use across different LLM agents while maintaining performance on benign user tasks.