GPS 좌표에서 여행 패턴으로: LLM을 활용한 유연하고 의미론적인 경로 생성

From GPS Points to Travel Patterns: Flexible and Semantic Trajectory Generation with LLMs

도시의 이동 경로는 도시 역동성을 모델링하고 다양한 스마트 시티 애플리케이션을 지원하는 데 중요한 역할을 합니다. 그러나 개인 정보 보호 문제는 대규모 고품질 이동 경로 데이터에 대한 접근을 제한합니다. 이동 경로 생성은 현실적인 데이터를 합성하여 개인 정보 보호 위험을 완화하는 유망한 대안입니다. 그러나 기존 방법은 여행 패턴을 명시적으로 반영하지 못하고 단일 조건 하에서만 고정 길이의 경로를 생성할 수 있습니다. 이러한 한계를 해결하기 위해, 우리는 먼저 대규모 언어 모델(LLM)을 사용하여 계층적으로 이동 패턴을 생성하고 GPS 좌표를 생성하는 **HTP** (Hierarchical Travel Pattern Generation)를 제안합니다. 먼저, 마이크로 수준의 GPS 경로를 거칠기에서 세밀함으로 양자화하여 집약적인 매크로 수준의 여행 패턴 토큰으로 변환하는 궤적 전용 잔차 양자화 변분 오토인코더(RQ-VAE)를 설계했습니다. 이러한 토큰은 교통 상황에 의해 발생하는 점 밀도 변화와 같은 다양한 공간적 불규칙성을 포착합니다. 그런 다음, LLM 어휘에 여행 패턴 토큰을 추가하여 궤적 표현을 LLM 입력과 일치시키고, 지도 학습 미세 조정(SFT)을 적용하여 LLM을 궤적 생성 작업과 일치시켜 다양한 조건 하에서 여행 패턴 시퀀스를 생성할 수 있도록 합니다. 두 개의 실제 데이터 세트에 대한 광범위한 실험 결과, HTP는 생성 품질 측면에서 가장 강력한 기준 모델보다 평균 29.78% 더 우수한 성능을 보였습니다. 저희 코드는 https://github.com/slzhou-xy/HTP 에서 확인할 수 있습니다.

Urban trajectories play a crucial role in modeling urban dynamics and supporting various smart city applications. However, privacy concerns restrict access to large-scale and high-quality trajectory datasets. Trajectory generation provides a promising alternative by synthesizing realistic data to mitigate privacy risks. However, existing methods fail to explicitly capture travel patterns and can only generate fixed-length trajectories under a single condition. To address these limitations, we propose \textbf{HTP}, which \textbf{H}ierarchically generates \textbf{T}ravel patterns first and then generates GPS \textbf{P}oints by using large language models (LLMs), rather than directly generating GPS points. We first design a trajectory-specific residual quantization variational autoencoder (RQ-VAE) that quantizes micro-level GPS trajectories into compact, macro-level travel pattern tokens in a coarse-to-fine manner. These tokens capture rich segment spatial irregularities, such as point density variations caused by traffic conditions. Then, we extend the LLM vocabulary with travel pattern tokens to align trajectory representations with the LLM input, and apply supervised fine-tuning (SFT) to align the LLM with the trajectory generation task, enabling generation of travel pattern sequences under various conditions. Extensive experiments on two real-world datasets show that HTP outperforms the strongest baseline by an average of 29.78\% in terms of generation quality. Our code is available at https://github.com/slzhou-xy/HTP.