InsightEmb: 에이전트 기반 인사이트 검색을 위한 행동-의도 임베딩 학습

InsightEmb: Learning Action-Intent Embeddings for Agentic Insight Retrieval

자기 개선형 에이전트는 이전 경험에서 재사용 가능한 인사이트를 축적하며, 이러한 과정에서 획득한 경험을 실제 지침으로 활용하는 것이 점점 중요해지고 있습니다. 각 의사 결정 단계에서 올바른 인사이트를 검색하면 에이전트가 목표 달성을 향해 나아가는 데 도움이 되는데, 이를 우리는 '에이전트 기반 인사이트 검색'이라고 부릅니다. 그러나 기존의 검색 방법은 주로 의미적 유사성을 모델링하지만, 검색된 인사이트가 현재 에이전트의 의사 결정 난관을 해결하는지 여부는 간과하는 경우가 많습니다. 본 논문에서는 수학적 추론 데이터만을 사용하여 전이 가능한 진행 중심의 검색 구조를 학습하는 대비 임베딩 프레임워크인 InsightEmb를 제안합니다. InsightEmb는 구체적인 상황과 추상적인 휴리스틱 규칙을 정렬하고, 유사한 진행 구조를 가진 추론 경로들을 클러스터링하도록 함께 학습합니다. 우리는 동적 에이전트 작업 및 정적 기술 검색 벤치마크에서 InsightEmb를 평가했습니다. 환경에 특화된 학습 없이도 InsightEmb는 모든 평가에서 기존의 추론 임베딩 모델보다 우수한 성능을 보였습니다. 이러한 결과는 상태-인사이트 매칭의 구조가 도메인 간에 전이될 수 있으며, 이를 통해 비싼 환경별 감독 없이 공개적으로 사용 가능한 추론 데이터로부터 효과적인 학습이 가능하다는 것을 시사합니다.

Self-improving agents accumulate reusable insights from prior trajectories, making retrieval increasingly important for turning accumulated experience into actionable guidance. At each decision step, retrieving the right insight can help the agent progress toward its goal, a setting we refer to as agentic insight retrieval. However, existing retrieval methods primarily model semantic similarity, while overlooking whether a retrieved insight resolves the agent's current decision bottleneck. We propose InsightEmb, a contrastive embedding framework that learns transferable progress-oriented retrieval geometry using only mathematical reasoning data. InsightEmb jointly learns to align concrete situations with abstract heuristic rules and to cluster reasoning trajectories with similar progress structures. We evaluate InsightEmb on dynamic agent tasks and a static skill-retrieval benchmark. Without any environment-specific training, InsightEmb improves over all these evaluations, surpassing the performance of existing reasoning embedding models. These results suggest that the geometry of state-insight matching can transfer across domains, enabling effective training from publicly available reasoning data without expensive environment-specific supervision.