SkillBrew: LLM 에이전트를 위한 다중 목표 기반 기술 데이터베이스 관리

SkillBrew: Multi-Objective Curation of Skill Banks for LLM Agents

검색 증강 LLM(Large Language Model) 에이전트는 점점 더 정교한 기술 데이터베이스에 의존하는데, 이는 복잡한 작업에 대한 의사 결정을 안내하는 재사용 가능한 텍스트 원칙의 모음입니다. 기존 방식은 일반적으로 이러한 데이터베이스를 추가 전용 방식으로 확장하여 새로운 기술을 지속적으로 추가하지만, 중복되거나 오래되었거나 유해한 정보를 제거하지 않아 비효율적이고 관리가 부실한 저장소를 만듭니다. 본 논문에서는 기술 데이터베이스 관리를 제약 조건이 있는 다중 목표 문제로 정의합니다. 이상적인 데이터베이스는 에이전트에게 유용하고, 콘텐츠가 다양하며, 쿼리 분포를 잘 포괄해야 합니다. 이를 위해 SkillBrew라는 다중 목표 관리 프레임워크를 소개합니다. SkillBrew는 기술 데이터베이스 관리를 효용 제약 조건 하에서 파레토 최적화 문제로 공식화하고, 제안-검증 루프를 통해 해결합니다. 우리는 두 개의 공개 벤치마크에서 우리 접근 방식을 평가했습니다. 우리의 연구 결과는 기술 데이터베이스를 무한히 커지는 추가 전용 기록이 아닌 체계적인 관리가 필요한 객체로 취급하는 것이 자체 개선 LLM 에이전트를 구축하는 데 중요한 단계라는 것을 시사합니다.

Retrieval-augmented LLM agents increasingly rely on curated skill banks: collections of reusable textual principles that guide decision making on complex tasks. Existing approaches typically expand these banks in an append-only fashion, continuously adding new skills without removing redundant, outdated, or harmful ones, resulting in inefficient and poorly curated repositories. In this paper, we formulate the skill bank curation as a constrained multi-objective problem: a desirable bank must be useful for the agent, diverse in its content, and provide good coverage of the query distribution. To this end, we introduce SkillBrew, a multi-objective curation framework that formalizes skill bank curation as Pareto-aware optimization under a utility constraint, and solves it via a bi-level propose-then-verify loop. We evaluate our approach on two public benchmarks. Our findings suggest that treating skill banks as objects of principled curation, rather than ever-growing append-only logs, is an important step toward building self-improving LLM agents.