이미지 인식을 위한 심층 잔차 학습

Deep Residual Learning for Image Recognition

더 깊은 신경망은 훈련하기 더 어렵습니다. 우리는 이전에 사용된 것보다 상당히 더 깊은 신경망의 훈련을 용이하게 하기 위해 잔차 학습(residual learning) 프레임워크를 제안합니다. 우리는 레이어가 참조되지 않는 함수를 학습하는 대신, 레이어 입력을 참조하여 잔차 함수를 학습하도록 명시적으로 재구성합니다. 우리는 이러한 잔차 신경망이 최적화하기 더 쉽고, 상당히 증가한 깊이로부터 정확도를 얻을 수 있음을 보여주는 포괄적인 실증적 증거를 제시합니다. ImageNet 데이터셋에서 우리는 VGG 네트워크보다 8배 더 깊지만 여전히 복잡도는 더 낮은 최대 152개 레이어 깊이의 잔차 신경망을 평가합니다. 이러한 잔차 신경망들의 앙상블은 ImageNet 테스트 세트에서 3.57%의 오류율을 달성했습니다. 이 결과는 ILSVRC 2015 분류 작업에서 1위를 차지했습니다. 또한 100개 및 1000개 레이어를 가진 CIFAR-10에 대한 분석도 제시합니다. 표현(representation)의 깊이는 많은 시각적 인식 작업에서 매우 중요합니다. 오로지 매우 깊은 표현 덕분에, 우리는 COCO 객체 탐지 데이터셋에서 28%의 상대적인 개선을 얻었습니다. 심층 잔차 신경망은 ILSVRC 및 COCO 2015 대회의 제출물의 기초가 되었으며, 우리는 여기서 ImageNet 탐지, ImageNet 위치 추정, COCO 탐지 및 COCO 세그멘테이션 작업에서도 1위를 차지했습니다.

Deeper neural networks are more difficult to train. We present a residual learning framework to ease the training of networks that are substantially deeper than those used previously. We explicitly reformulate the layers as learning residual functions with reference to the layer inputs, instead of learning unreferenced functions. We provide comprehensive empirical evidence showing that these residual networks are easier to optimize, and can gain accuracy from considerably increased depth. On the ImageNet dataset we evaluate residual nets with a depth of up to 152 layers---8x deeper than VGG nets but still having lower complexity. An ensemble of these residual nets achieves 3.57% error on the ImageNet test set. This result won the 1st place on the ILSVRC 2015 classification task. We also present analysis on CIFAR-10 with 100 and 1000 layers. The depth of representations is of central importance for many visual recognition tasks. Solely due to our extremely deep representations, we obtain a 28% relative improvement on the COCO object detection dataset. Deep residual nets are foundations of our submissions to ILSVRC & COCO 2015 competitions, where we also won the 1st places on the tasks of ImageNet detection, ImageNet localization, COCO detection, and COCO segmentation.