LLM 기반 협력 콘텐츠 캐싱: 차량 기반 fog 캐싱 지원 플래툰 네트워크

LLM-Empowered Cooperative Content Caching in Vehicular Fog Caching-Assisted Platoon Networks

본 논문에서는 차량 기반 fog 캐싱(VFC)을 활용한 플래툰 네트워크를 위한 새로운 3단계 콘텐츠 캐싱 아키텍처를 제안합니다. VFC는 플래툰 근처를 운행하는 차량들로 구성됩니다. 제안하는 시스템은 플래툰 내 차량, 동적 VFC 클러스터, 그리고 클라우드 서버 간의 저장 공간을 전략적으로 조정하여 콘텐츠 검색 지연 시간을 최소화합니다. 분산된 저장 공간을 효율적으로 관리하기 위해, 본 논문에서는 대규모 언어 모델(LLM)을 활용하여 실시간 및 지능형 캐싱 결정을 내립니다. 제안하는 방법은 LLM의 다양한 정보 처리 능력을 활용하며, 여기에는 사용자 프로필, 과거 데이터, 콘텐츠 특성, 그리고 동적인 시스템 상태가 포함됩니다. 설계된 프롬프트 프레임워크를 통해 LLM은 캐싱을 의사 결정 문제로 정의하며, 우리의 계층적 결정론적 캐싱 매핑 전략은 빈번한 재학습 없이도 적응적인 요청 예측 및 3단계에 걸친 정확한 콘텐츠 배치를 가능하게 합니다. 시뮬레이션 결과는 제안하는 캐싱 방식의 장점을 입증합니다.

This letter proposes a novel three-tier content caching architecture for Vehicular Fog Caching (VFC)-assisted platoon, where the VFC is formed by the vehicles driving near the platoon. The system strategically coordinates storage across local platoon vehicles, dynamic VFC clusters, and cloud server (CS) to minimize content retrieval latency. To efficiently manage distributed storage, we integrate large language models (LLMs) for real-time and intelligent caching decisions. The proposed approach leverages LLMs' ability to process heterogeneous information, including user profiles, historical data, content characteristics, and dynamic system states. Through a designed prompting framework encoding task objectives and caching constraints, the LLMs formulate caching as a decision-making task, and our hierarchical deterministic caching mapping strategy enables adaptive requests prediction and precise content placement across three tiers without frequent retraining. Simulation results demonstrate the advantages of our proposed caching scheme.