GRASP: 게이티드 회귀 인식 기술 제안 시스템 - 자가 개선 LLM 에이전트

GRASP: Gated Regression-Aware Skill Proposer for Self-Improving LLM Agents

구조화된 환경에서 작동하는 LLM 에이전트는 대화적인 측면보다는 운영적인 측면에서 어려움을 겪으며, 신뢰성은 환경에 대한 절차적 지식에 크게 의존합니다. 기존의 자가 개선 방법은 자연어 가이드라인을 축적하지만, 각 새로운 항목이 이전에 올바르게 작동하던 기능을 유지하는지 확인하지 않기 때문에, 특정 경로를 수정하는 과정에서 다른 경로에 예상치 못한 오류(회귀)가 발생할 수 있습니다. 본 논문에서는 GRASP (Gated Regression-Aware Skill Proposer)라는 시스템을 소개합니다. GRASP는 에이전트 개선을 제한된 기술 라이브러리에 대한 일련의 편집으로 간주하며, 각 후보 기술을 채택하기 전에 해당 기술이 미리 정의된 테스트 데이터셋에서 전반적인 성능 향상을 가져오는지 확인하고, 회귀 가능성을 엄격하게 관리합니다. 우리는 GRASP를 사용하여 다섯 가지 기본 모델(gpt-oss-120b, DeepSeek V4 Flash, Gemini 3.1 Flash Lite, GPT-4.1, GPT-5.4)을 평가했습니다. 두 가지 FHIR 기반의 임상 분야 벤치마크에서, GRASP는 MedAgentBench에서 gpt-oss-120b 모델의 성능을 40.6%에서 88.8%로 향상시켰으며, 다섯 가지 자가 개선 기준 모델보다 평균 21.0점이 높은 성능을 보였습니다. 또한 다른 모든 기본 모델의 성능을 17.2점에서 40.3점 사이로 향상시켰습니다. 추가적인 분석 결과, 이러한 성능 향상은 기술 제안 생성 방식, 채택 게이트, 그리고 엄격한 회귀 예방 정책 덕분이며, 검증 없이 단순히 기술을 추가하는 것만으로는 효과가 없다는 것을 확인했습니다. GRASP의 작동 원리는 임상 분야를 넘어 다른 세 가지 비임상 환경에서도 성능 향상을 가져왔으며, 행동 공간이 개방적인 경우에는 성능 변화가 미미했습니다. 또한, 학습된 기술 라이브러리는 모델 간에 이전될 수 있으며, 더 강력한 모델에서 학습된 기술은 상대적으로 약한 모델의 성능을 자체적으로 학습하는 것보다 더 큰 폭으로 향상시킬 수 있다는 것을 확인했으며, 이러한 비대칭적인 특성은 기존의 게이트 없는 기준 모델에서는 나타나지 않았습니다.

LLM agents acting in structured environments fail in operational rather than conversational ways, and reliability depends on procedural knowledge of the environment. Prior self-improvement methods accumulate natural-language guidance without checking that each new item preserves previously correct behavior, so a note that fixes one trajectory can silently regress another. We introduce GRASP (Gated Regression-Aware Skill Proposer), which treats agent improvement as a sequence of edits to a bounded skill library, admitting each candidate only if it produces a net improvement on a balanced held-out probe under a hard regression budget. We evaluate GRASP across five base models (gpt-oss-120b, DeepSeek V4 Flash, Gemini 3.1 Flash Lite, GPT-4.1, GPT-5.4) on two FHIR-based clinical benchmarks. On MedAgentBench, GRASP lifts gpt-oss-120b from 40.6% to 88.8%, exceeds the strongest of five self-improvement baselines by 21.0 points, and improves every other base model by 17.2 to 40.3 points. Ablations attribute the gain to comparative proposal generation, the acceptance gate, and the hard regression budget rather than to skill writing itself, which without validation is no better than using no skills. The mechanism generalizes beyond the clinical domain, improving agents on three of four non-clinical environments and remaining flat only where the action space is open-ended. Frozen libraries transfer across models, where skills from a stronger model improve weaker executors beyond what they learn for themselves while the reverse does not, an asymmetry that no ungated baseline reproduces.