MultiPathFormer: 다중 경로 무선 전파를 위한 기초 모델 개발

MultiPathFormer: Towards a Foundation Model for Multipath Wireless Propagation

최근 머신러닝의 발전은 무선 신호를 기반으로 채널 추정, 빔 예측 및 위치 결정과 같은 작업을 지원하는 무선 기초 모델을 학습할 수 있게 해주었습니다. 기존의 무선 기초 모델은 일반적으로 서브캐리어, 안테나 또는 시간 영역에 대한 마스크된 재구성을 사용하여 채널 텐서로 사전 학습을 수행하지만, 무선 전파의 물리적 특성은 고려하지 않습니다. 본 연구에서는 다중 경로 전파를 기본적인 사전 학습 객체로 사용하는 것을 제안합니다. 우리는 MultiPathFormer라는 자기 회귀 기반 기초 모델을 제시하며, 각 송수신 링크를 연속적인 값으로 표현된 경로 토큰의 순서로 나타내고, 다음 경로 예측을 통해 사전 학습을 수행합니다. 트랜스포머 백본 위에 환경 지식을 활용하여 지연 및 전력과 같은 경로 통계 추정 정확도를 최대 59%까지 향상시키는 환경 기반 검색 증강 생성(Environmental RAG) 메커니즘과 첫 번째 경로 코드북을 도입했습니다. 27개의 환경에서 사전 학습된 MultiPathFormer는 알려지지 않은 사용자에게 적용 가능하며, 시나리오별 미세 조정 후 새로운 환경에서 해당 모델을 처음부터 학습하는 것보다 더 우수한 성능을 보입니다. 다양한 하위 작업에서 SOTA 채널 기반 기초 모델보다 뛰어난 성능을 보여주며, 평균 위치 오차 5.57m, 최고 3개 빔 정확도 0.914, 시야 분류 정확도 0.994, 채널 추정 NMSE 0.561을 달성했습니다. 이러한 결과는 경로 수준의 사전 학습이 무선 전파의 재사용 가능한 표현을 학습할 수 있음을 보여줍니다.

Recent advances in machine learning have enabled training of wireless foundation models, which aim to support tasks such as channel estimation, beam prediction, and localization based on wireless signals. Existing wireless foundation models typically pretrain on channel tensors using masked reconstruction over subcarriers, antennas, or time but ignore the physical characteristics of wireless propagation. In this work, we propose to instead use multipath propagation as the fundamental pretraining object. We present MultiPathFormer, an autoregressive foundation model that represents each transmitter-receiver link as an ordered sequence of continuous-valued path tokens and pretrains with next-path prediction. We introduce an Environmental RAG (retrieval-augmented generation) mechanism and a first-path codebook on top of the transformer backbone, leveraging environment knowledge to improve path statistics estimation like delay and power by up to 59%. MultiPathFormer pretrained on 27 environments transfers to unseen users and, after scenario-specific fine-tuning, outperforms training the corresponding models from scratch in new environments. Across downstream tasks, it outperforms SOTA channel-based foundation models, achieving 5.57 m mean localization error, 0.914 top-3 beam accuracy, 0.994 line-of-sight classification accuracy, and 0.561 channel estimation NMSE. These results show that path-level pretraining can learn reusable representations of wireless propagation.