패스트캠퍼스 챌린지 24일차

 

오늘 강의는 "객체 탐지 및 영상 인식 모델링"을 주제로 들었다. 

 Bag of Tricks for Image Classification with Convolutional Neural Networks 논문을 간단히 설명해 주셨다. 이 논문은 CNN 기법들을 정리한 것이라고 한다. 

 

더 나은 모델을 사용하는 방법에는 1) 더 많은 레이어 2) 더 많은 채널 3) 더 큰 해상도 4) 더 나은 활성화 기능 사용 이다.

효율적인 트레이닝으로는 1) 선형 스케일링 학습률 2) 학습률 웜업 3) batchnorm에서 제로 감마 4) 편향 감쇠가 없음 등이다.

 

그리고 여기서는 총 4가지의 기법에 대하여 실험을 수행하였다.

 

1. label smoothing 기법에서 ϵ=0.1ϵ=0.1 로 설정하였다.

2. model distillation 기법에서 T = 20으로 설정하였으며, Teacher model로는 label smoothing이 적용된 ResNet-152-D 모델을 사용하였다.

3. cosine decay 기법을 Teacher model에 적용하였다.

4. mixup training 기법에서는 BetaBeta 분포 중 α=0.2α=0.2로 두었고, epoch 수를 120에서 200으로 늘렸다. (mixup 된 이미지는 더 긴 학습시간이 필요하기 때문)

 

남은 시간은 이 논문을 자세히 읽어봐야 겠다.

 

 

 

#패스트캠퍼스 #패캠챌린지 #직장인인강 #직장인자기계발 #패스트캠퍼스후기 #퀴즈처럼풀면서배우는파이썬딥러닝300제+연습문제패키지Online

 

 

 

 

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성되었습니다.

 

패스트캠퍼스 링크 : https://bit.ly/3FVdhDa