저렴한 비용으로 하드웨어 제약 조건을 고려한 신경망 구조 탐색: 초저전력 컴퓨팅 플랫폼에 컨볼루션 신경망을 적용하기 위한 방법

An affordable hardware-aware neural architecture search for deploying convolutional neural networks on ultra-low-power computing platforms

하드웨어 제약 조건 기반 신경망 구조 탐색 (HW-NAS)은 컨볼루션 신경망(CNN)을 마이크로컨트롤러 장치에 통합할 수 있도록, 미리 정의된 하드웨어 제약 조건을 만족하는 신경망 구조를 자동으로 설계합니다. 그러나 최첨단 HW-NAS는 고성능 마이크로컨트롤러를 대상으로 하며, 이들의 전력 소비량은 센서 노드의 요구 사항을 충족하지 못합니다. 본 연구에서는 초저전력 마이크로컨트롤러에서 실행될 수 있는 작은 CNN을 생성하는 HW-NAS 방법을 제시하며, 경량화된 탐색 절차를 통해 임베디드 장치에서도 실행 가능하도록 합니다. 3가지 유명한 작은 컴퓨터 비전 벤치마크에 대한 실험 결과는 제안된 HW-NAS가 최첨단 분류 정확도를 유지하면서도 작은 CNN을 생성할 수 있음을 입증했습니다.

Hardware-aware neural architecture search (HW-NAS) allows the integration of Convolutional Neural Networks (CNNs) in microcontrollers devices by automatically designing neural architectures that can fit prearranged hardware constraints. However, state-of-the-art HW-NAS target high-performance microcontrollers, whose power consumption does not meet sensing nodes requirements. This work presents a HW-NAS generating tiny CNNs that can run on ultra-low-power microcontrollers, featuring a lightweight search procedure enabling its execution even on embedded devices. Empirical results on three well-known benchmarks for tiny computer vision proved that the proposed HW-NAS was able to generate tiny CNNs while preserving state-of-the-art classification accuracy.