적극적인 에이전트가 정말로 LLM을 사용하여 언제 활성화할지, 그리고 어떤 정보를 기준으로 할지 결정해야 하는가?
Do Proactive Agents Really Need an LLM to Decide When to Wake and What to Anchor?
적극적인 에이전트는 사용자 활동을 텍스트 형태로 읽고, 모든 이벤트에 대해 LLM을 호출하여 행동 여부를 결정합니다. 그러나 사용자 활동은 기본적으로 (작업자, 동사, 객체, 타임스탬프) 튜플로 구성된 정형화된 이벤트 스트림이며, 운영 체제는 이미 이 정보를 그래프 형태로 관리하고 있습니다. 이 구조를 텍스트로 변환한 다음 LLM을 사용하여 복원하는 과정은 시스템이 수행할 필요가 없는 불필요한 단계를 포함합니다. 우리는 항상 활성화되는 신호를 텍스트 대신 그래프 업데이트로 처리하고, 작은 시계열 그래프 학습(TGL) 모델을 인코더로 사용합니다. TGL 모델은 한 번의 연산으로 각 이벤트에 대한 트리거 확률과 각 개체에 대한 라우팅 점수를 제공하며, 다운스트림 에이전트만이 LLM 호출을 수행합니다. 이 다운스트림 에이전트는 작은 정형화된 정보를 사용자에게 자연스러운 문장으로 전달하는 역할을 합니다. TGL 모델은 14개의 서로 다른 기반 모델에서 F1 점수를 향상시켰습니다 (평균 +16.7, 최대 +46.0). 트리거 아키텍처 비교에서는 TGL 모델의 특정 체크포인트가 가장 높은 트리거 AUC 값을 제공하고, 배포 시 가장 안정적인 임계값을 갖는 것으로 나타났습니다. TGL 모델은 GPU 서버에서 이벤트당 11.13ms, 일반 노트북에서는 13.99ms로 실행되며, 테스트된 모든 LLM 기반 트리거 구성보다 약 4~7배 또는 12~83배 빠릅니다. 또한, TGL 모델은 약 220 MiB의 BF16 메모리를 사용하며, 이는 개인 정보 보호에 민감한 활동 스트림과 함께 온디바이스에서 배포될 수 있습니다.
Proactive agents read user activity as text and call an LLM on every event to decide whether to act. But user activity is not natively text: it is a structured event stream of (actor, verb, object, timestamp) tuples that the operating system already maintains in graph form. Rendering the structure as text and asking an LLM to recover it is a round-trip the system never had to take. We treat the always-on signal as graph updates rather than text and use a small temporal-graph-learning (TGL) model as the encoder: one forward pass yields a per-event trigger probability and a per-entity routing score, and only the downstream agent (turning a small structured handoff into a fluent user-facing sentence) is an LLM call, invoked only when the trigger fires. TGL improves F1 on each of 14 backbones (mean +16.7, up to +46.0); in trigger-architecture comparisons, one TGL checkpoint gives the strongest trigger AUCs and the most stable deployed threshold. It runs at 11.13 ms per event on a GPU server and 13.99 ms on a consumer laptop, approximately 4--7x and 12--83x faster than every single-forward LLM-as-trigger configuration tested in each regime, with an approximately 220 MiB BF16 resident footprint deployable on-device alongside the privacy-sensitive activity stream it consumes.
No Analysis Report Yet
This paper hasn't been analyzed by Gemini yet.
Log in to request an AI analysis.