구조 제약 기반 전체 이벤트 시퀀스 생성을 위한 그래프 기반 크로스 어텐션 트랜스포머 신경망: 예측 프로세스 모니터링

Graph Grounded Cross Attention Transformer Neural Network for Structurally Constrained Full Event Sequence Generation in Predictive Process Monitoring

구조적 제약을 갖는 이벤트 시퀀스 생성은 생성된 경로가 전환 가능성, 시간 순서, 종료 조건 및 속성 일관성을 유지해야 하기 때문에 여전히 어려운 과제입니다. 예측 프로세스 모니터링(PPM)에서 이 문제는 전체 이벤트 시퀀스 생성이 되며, 기존 연구에서는 주로 다음 활동 예측, 남은 시간 예측, 결과 예측 및 속성 예측과 같은 구성 요소 작업에 초점을 맞춥니다. 본 논문에서는 이러한 통합된 PPM 작업을 위해 그래프 기반 크로스 어텐션 트랜스포머 신경망(GGATN)을 제안합니다. GGATN은 글로벌 프로세스 그래프를 구조적인 활동 메모리로 사용하고, 트랜스포머 자기 주의 메커니즘을 통해 시퀀스 위치의 문맥 정보를 파악하며, 그래프 기반 크로스 어텐션을 통해 프로세스 토폴로지를 주입합니다. GGATN은 오토리그래시브 디코딩과 달리 활동, 타임스탬프, 길이 및 이벤트 레벨 및 시퀀스 레벨 속성을 단일 패스에서 생성한 다음, Viterbi 스타일의 그래프 기반 제약 디코딩을 통해 실행 가능한 경로를 보장하고 명시적인 종료 조건을 적용합니다. 여섯 개의 벤치마크 이벤트 로그에 대한 실험 결과는 GGATN이 로컬 명령어 프롬프트 기반 LLM과 비교하여 더 안정적인 생성 품질을 제공하는 것으로 나타났습니다. GGATN은 시퀀스 유사성, Damerau-Levenshtein 유사성, bigram 기반 제어 흐름 유사성 및 기간 분포 측면에서 뛰어난 성능을 보였으며, 동시에 환각된 활동이 0개이고 시퀀스 레벨 속성 불일치가 0개를 유지했습니다. 제거 실험(Ablation analysis) 결과, 글로벌 그래프 인코더가 안정적인 구조적 사전 지식 역할을 한다는 것을 확인했습니다. 해석 가능성 분석은 그래프 구조, 시퀀스 컨텍스트, 피드백 개선 및 제약 디코딩이 생성 과정에 미치는 영향을 보여줍니다.

Structurally constrained event sequence generation remains challenging because generated paths must preserve transition feasibility, temporal order, termination, and attribute consistency. In predictive process monitoring (PPM), this challenge appears as full event sequence generation, whereas existing work mainly addresses component tasks such as next activity, remaining time, outcome, and attribute prediction. This paper proposes the Graph Grounded Cross Attention Transformer Neural Network (GGATN) for this unified PPM task. GGATN uses a global process graph as structured activity memory, contextualizes sequence positions through Transformer self attention, and injects process topology through graph grounded cross attention. Unlike autoregressive decoding, GGATN generates activities, timestamps, length, and event level and sequence level attributes in a single pass, followed by Viterbi style graph constrained decoding for feasible paths and explicit termination. Experiments on six benchmark event logs show more reliable generation quality than local instruction prompted LLM baselines. GGATN achieves strong performance on sequence similarity, Damerau Levenshtein similarity, bigram based control flow similarity, and duration distribution, while maintaining zero hallucinated activities and zero sequence level attribute inconsistency. Ablation analyses confirm the global graph encoder as a stable structural prior. Interpretability analyses show how graph structure, sequence context, feedback refinement, and constrained decoding shape generation.