웨이블릿 기반 마스크 다중 스케일 재구성을 활용한 PPG 기반 모델
Wavelet-Driven Masked Multiscale Reconstruction for PPG Foundation Models
웨어러블 기반 모델은 일상 환경에서 수집된 대규모 생체 신호로부터 전이 가능한 표현을 학습함으로써 디지털 헬스 분야를 혁신할 잠재력을 가지고 있습니다. 최근 대규모 사전 학습 분야에서 상당한 진전이 있었지만, 대부분의 접근 방식은 광전맥파(PPG) 신호의 스펙트럼 구조를 간과합니다. PPG 신호는 다양한 주파수 대역에서 생리학적 리듬이 나타납니다. 본 연구에서는 많은 하위 작업이 미세한 파형 형태부터 전반적인 리듬 역학에 이르기까지 다중 해상도 특징에 의존한다는 점에 착안하여, PPG 표현 학습을 위한 마스크 다중 스케일 재구성(MMR)을 제안합니다. MMR은 PPG 데이터의 계층적 시간-주파수 스케일로부터 명시적으로 학습하는 자기 지도 학습 사전 훈련 프레임워크입니다. 사전 훈련 작업은 웨이블릿 기반 다중 해상도 분해를 통해 얻은 임의로 마스크 처리된 계수를 재구성하도록 설계되었으며, 이를 통해 트랜스포머 인코더가 시간 및 스펙트럼 스케일 전반의 정보를 통합하도록 유도합니다. 저희는 ~32,000명의 스마트워치 사용자의 ~1700만 개의 레이블이 없는 10초 길이의 PPG 데이터 세그먼트를 사용하여 MMR을 통해 모델을 사전 훈련했습니다. 19개의 다양한 건강 관련 작업 중 17개 작업에서, 대규모 웨어러블 PPG 데이터로 훈련된 MMR은 최첨단 오픈 소스 PPG 기반 모델, 시계열 기반 모델 및 기타 자기 지도 학습 기반 모델의 성능을 능가하거나 동등한 성능을 보였습니다. 학습된 임베딩에 대한 광범위한 분석 및 체계적인 분석 결과는 웨이블릿 기반 표현의 가치를 강조하며, 이러한 표현이 견고하고 생리학적으로 타당한 특징을 포착함을 보여줍니다. 이러한 결과는 MMR이 일반화된 PPG 기반 모델 개발을 위한 중요한 단계임을 시사합니다.
Wearable foundation models have the potential to transform digital health by learning transferable representations from large-scale biosignals collected in everyday settings. While recent progress has been made in large-scale pretraining, most approaches overlook the spectral structure of photoplethysmography (PPG) signals, wherein physiological rhythms unfold across multiple frequency bands. Motivated by the insight that many downstream health-related tasks depend on multi-resolution features spanning fine-grained waveform morphology to global rhythmic dynamics, we introduce Masked Multiscale Reconstruction (MMR) for PPG representation learning - a self-supervised pretraining framework that explicitly learns from hierarchical time-frequency scales of PPG data. The pretraining task is designed to reconstruct randomly masked out coefficients obtained from a wavelet-based multiresolution decomposition of PPG signals, forcing the transformer encoder to integrate information across temporal and spectral scales. We pretrain our model with MMR using ~17 million unlabeled 10-second PPG segments from ~32,000 smartwatch users. On 17 of 19 diverse health-related tasks, MMR trained on large-scale wearable PPG data improves over or matches state-of-the-art open-source PPG foundation models, time-series foundation models, and other self-supervised baselines. Extensive analysis of our learned embeddings and systematic ablations underscores the value of wavelet-based representations, showing that they capture robust and physiologically-grounded features. Together, these results highlight the potential of MMR as a step toward generalizable PPG foundation models.
No Analysis Report Yet
This paper hasn't been analyzed by Gemini yet.
Log in to request an AI analysis.