CNN GoogLeNet

GoogLeNet의 구조

인셉션 모듈 Inception Module로 되어있다.

수용장의 다양한 특징을 추출하기 위해 NIIN의 구조를 확장하여 복수의 병렬적인 컨볼루션 층을 가진다.

가변적인 크기의 커널을 사용한다.

 

 

NIN 구조

기존 컨볼루션 연산을 MLP 컨볼루션 연산으로 대체

- 커널 대신 비선형 함수를 활성함수로 포함하는 MLP를 사용하여 특징 추출에 유리하다

신경망의 미소신경망 Micro Neural Network가 주어진 수용장의 특징을 추상화 시도

전역 평균 풀링 Global Average Pooling 사용

 

이 NIN 개념을 확장한 신경망이 GoogLeNet

 

인셉션 모듈

마이크로 네트워크로 Mlpconv 대신 네종류의 컨볼루션 연산을 사용하여 다양한 특징을 추출한다.

 

1*1 컨볼루션을 사용하여 차원을 축소한다.

- 매개변수의 수 = 특징 맵의 수를 줄이고 깊은 신경망으로 만든다.

3*3, 5*5 의 다양한 크기의 컨볼루션으로 특징들을 추출한다.

 

 

 

이 인셉션 모듈을 9개 결합하여 GoogLeNet을 만든다.

매개변수가 있는 층 22개, 매개변수가 없는 풀링 층 5개로 총 27개의 층으로 구성되었다.

완전연결층을 1개 밖에 없다.

VGGNet과 비교하면 매우 적은 수이고 1% 밖에 되지 않는다.

 

보조 분류기 Auxiliary Classifier

원 분류기의 오류역전파 결과와 보조 분류기의 오류 역전파 결과를 결합하여 경사소멸문제를 완화한다.

이 보조 분류기는 학습할 때 보조 역할을 하고, 테스트에서는 생략한다.