자연재해 관리에서의 분할 및 탐지 모델에 대한 개념 기반 설명

Concept-based explanations of Segmentation and Detection models in Natural Disaster Management

홍수 및 산불 분할 및 객체 탐지를 위한 딥러닝 모델은 임베디드 드론 플랫폼에 배포될 때 정확하고 실시간의 재해 위치 파악을 가능하게 합니다. 그러나 자연재해 관리에 있어서, 이러한 모델의 의사 결정 과정의 투명성 부족은 긴급 대응에 필요한 인간의 신뢰를 저해합니다. 이러한 문제를 해결하기 위해, 널리 사용되는 PIDNet 및 YOLO 아키텍처에서 홍수 분할 및 차량 탐지 예측에 대한 설명 가능성 프레임워크를 제시합니다. 구체적으로, 시그모이드 게이트를 사용하는 요소별 퓨전 레이어에 대한 레이어별 중요도 전파(LRP) 설명을 확장하는 새로운 재분배 전략을 소개합니다. 이 확장은 LRP 중요도가 PIDNet의 퓨전 모듈을 통해 흐르도록 하여 전체 계산 그래프를 입력 이미지까지 연결합니다. 또한, 원형 개념 기반 설명(PCX)을 적용하여 로컬 및 글로벌 수준에서 개념 수준의 설명을 제공함으로써, 특정 재해 의미 분류의 분할 및 탐지에 어떤 학습된 특징이 영향을 미치는지 밝힙니다. 공개적으로 사용 가능한 홍수 데이터 세트에 대한 실험 결과, 우리 프레임워크는 신뢰할 수 있고 해석 가능한 설명을 제공하면서도 거의 실시간 추론 능력을 유지하며, 드론(UAV)과 같은 자원 제약적인 플랫폼에 배포하기에 적합함을 보여줍니다.

Deep learning models for flood and wildfire segmentation and object detection enable precise, real-time disaster localization when deployed on embedded drone platforms. However, in natural disaster management, the lack of transparency in their decision-making process hinders human trust required for emergency response. To address this, we present an explainability framework for understanding flood segmentation and car detection predictions on the widely used PIDNet and YOLO architectures. More specifically, we introduce a novel redistribution strategy that extends Layer-wise Relevance Propagation (LRP) explanations for sigmoid-gated element-wise fusion layers. This extension allows LRP relevances to flow through the fusion modules of PIDNet, covering the entire computation graph back to the input image. Furthermore, we apply Prototypical Concept-based Explanations (PCX) to provide both local and global explanations at the concept level, revealing which learned features drive the segmentation and detection of specific disaster semantic classes. Experiments on a publicly available flood dataset show that our framework provides reliable and interpretable explanations while maintaining near real-time inference capabilities, rendering it suitable for deployment on resource-constrained platforms, such as Unmanned Aerial Vehicles (UAVs).