도구는 고립된 것이 아니다: LLM 에이전트를 위한 쿼리 기반 하이퍼엣지 예측을 통한 집합 수준의 도구 검색

Tools Are Not Islands: Set-Level Tool Retrieval for LLM Agents via Query-Conditioned Hyperedge Prediction

대규모 언어 모델(LLM) 에이전트는 실제 작업을 수행하기 위해 점점 더 많은 외부 도구를 활용하고 있습니다. 따라서, 에이전트가 행동하기 전에 수천 개의 도구 라이브러리에서 관련 있는 작은 부분 집합을 선택하는 도구 검색은 LLM 에이전트 파이프라인의 중요한 구성 요소가 되었습니다. 그러나 기존의 검색 방식은 각 도구를 개별적으로 평가하거나 도구 집합을 순차적으로 조립하기 때문에, 후보 집합 전체의 공동 유용성을 종합적으로 평가하지 못합니다. 본 논문에서는 하이퍼엣지 기반 집합 수준의 도구 검색(HYSET)이라는 새로운 방법을 제안합니다. HYSET의 주요 기여는 다음과 같습니다 (i) 도구 검색을 쿼리 기반 하이퍼엣지 예측 문제로 공식화하여, 도구 집합 자체를 평가 단위로 사용하며 대부분 기존 검색 방식은 제한된 형태로 축소될 수 있습니다; (ii) 크기에 따라 달라지는 도구 호환성을 cardinality-specific 상호작용을 통해 모델링합니다; (iii) HYSET는 다운스트림 에이전트에 대한 수정 없이 사용할 수 있는 사전 선택 모듈로 설계되었습니다. ToolBench 데이터셋에 대한 실험 결과, HYSET는 도구 검색 성능과 전체 작업 성공률 모두에서 최첨단 기준보다 우수한 성능을 지속적으로 보여주었습니다. 또한, HYSET는 in-domain 환경을 넘어 zero-shot/few-shot 전이 학습을 지원하여, 최소한의 감독 하에 새로운 도구나 범주, 그리고 unseen 도메인으로 일반화될 수 있습니다.

Large language model (LLM) agents increasingly rely on invoking external tools to complete real-world tasks. Tool retrieval, which selects a small task-relevant subset from a library of thousands of tools before the agent acts, has therefore become a critical component of LLM agent pipelines. However, existing retrievers either score each tool in isolation or assemble the tool set sequentially, so the joint utility of a candidate set is never evaluated as a whole. In this paper, we propose HYSET, short for HYperedge-based SEt-level Tool retrieval. Our contributions are threefold: (i) we formulate tool retrieval as query-conditioned hyperedge prediction on a tool co-invocation hypergraph, under which the tool set itself becomes the unit of scoring and most existing retrieval paradigms reduce to restricted instances; (ii) we capture size-dependent tool compatibility through cardinality-specific interactions; and (iii) we design HYSET as a pre-selection module requiring no modification to the downstream agent. Experiments on ToolBench demonstrate that HYSET consistently outperforms state-of-the-art baselines in both tool retrieval performance and end-to-end task success. Beyond the in-domain setting, HYSET further supports zero-shot/few-shot transfer, generalizing to held-out tools/categories and unseen domains with minimal supervision.