CarbonEdge: 지속 가능한 엣지 컴퓨팅을 위한 탄소 인지 딥러닝 추론 프레임워크

CarbonEdge: Carbon-Aware Deep Learning Inference Framework for Sustainable Edge Computing

네트워크 엣지에서의 딥러닝 애플리케이션은 AI 관련 탄소 배출량을 크게 증가시켜 심각한 지속 가능성 문제를 야기합니다. 기존의 엣지 컴퓨팅 프레임워크는 지연 시간과 처리량을 최적화하는 데 중점을 두지만, 추론 작업의 환경적 영향은 대부분 간과됩니다. 본 논문에서는 탄소 배출량 추정 및 친환경 스케줄링 기능을 갖춘 적응형 모델 파티셔닝을 확장한 탄소 인지 딥러닝 추론 프레임워크인 CarbonEdge를 소개합니다. 우리는 기존의 가중치 기반 스코어링 방식을 탄소 효율성 지표를 추가하여 확장한 탄소 인지 스케줄링 알고리즘을 제안하며, 이를 통해 성능과 탄소 배출량 간의 균형을 조절할 수 있습니다 (가중치 조정 실험을 통해 입증). Docker를 사용하여 시뮬레이션된 이종 엣지 환경에서의 실험 결과, CarbonEdge-Green 모드는 단일 실행 방식에 비해 탄소 배출량을 22.9% 줄이는 성능을 보였습니다. 또한, 본 프레임워크는 탄소 효율성이 1.3배 향상되었으며 (CO2 1g당 245.8 vs 189.5개의 추론), 스케줄링 오버헤드는 미미한 수준인 0.03ms/작업입니다. 이러한 결과는 본 프레임워크가 지속 가능한 엣지 AI 배포에 기여할 수 있음을 보여주며, 연구자 및 실무자에게 분산 딥러닝 추론의 환경적 영향을 정량화하고 최소화할 수 있는 도구를 제공합니다.

Deep learning applications at the network edge lead to a significant growth in AI-related carbon emissions, presenting a critical sustainability challenge. The existing edge computing frameworks optimize for latency and throughput, but they largely ignore the environmental impact of inference workloads. This paper introduces CarbonEdge, a carbon-aware deep learning inference framework that extends adaptive model partitioning with carbon footprint estimation and green scheduling apabilities. We propose a carbon-aware scheduling algorithm that extends traditional weighted scoring with a carbon efficiency metric, supporting a tunable performance--carbon trade-off (demonstrated via weight sweep). Experimental evaluations on Docker-simulated heterogeneous edge environments show that CarbonEdge-Green mode achieves a 22.9% reduction in carbon emissions compared to monolithic execution. The framework achieves 1.3x improvement in carbon efficiency (245.8 vs 189.5 inferences per gram CO2) with negligible scheduling overhead (0.03ms per task). These results highlight the framework's potential for sustainable edge AI deployment, providing researchers and practitioners a tool to quantify and minimize the environmental footprint of distributed deep learning inference.