IT개발자가 되기 위해 IT개발자가 되기 위해

한달동안 쉴새 없이 달려 온 느낌이다. 매일 매일 강의를 듣고 블로그 글을 쓰는 것은 성실도 측면이나 꾸준함에서 쉬운 일은 아니였다. 그럼에도 최종 후기까지 온 내 스스로에게 칭찬을 받아 마땅하다. 오늘은 30일동안 써온 블로그들을 리마인드하며 내가 배웠던 것들과 느꼈던 것들을 말해보는 시간을 가질 것이다. 딥러닝 300제 강의를 선택하게 된 이유는 머신러닝과 딥러닝에 관한 이론들을 많이 접했지만 실제로 어떻게 적용되는지에 대한 연습이 부족하다고 판단했기 때문이다. 이것을 30일동안 모두 들을 예정이므로 200개의 강의 / 30 = 하루에 6~7 개 정도 들으면 얼추 끝낼 수 있다는 나의 첫번째 목표였다. 하지만 계획은 언제나 틀어지기 마련. 4일차부터 원인 모를 에러가 떠서 이때부터 강의듣는 갯수가 급..

드디어 오늘이 마지막 포스터가 된다. 한 달 참 빠르다. 하지만 돌아보면 꽤 많은 것을 했다고 말할 수 있다. 딥러닝 300제 강의에서는 총 8개의 주제를 모두 들은 걸 보면 나름 선방했다고 할 수 있겠다. 이것을 처음 시작하게 된 것은 딥러닝을 공부하고 있었는데 실력을 더 기르고 싶어서 였고, 한달동안 나태해지지 말자는 다짐을 하고 싶어서였다. 모르는 것을 그냥 강의만 듣고 실습을 하면 아무것도 남는게 없었기에 나는 시간을 쪼개서 공부를 했던 것 같다. 하지만 무작정 이것을 듣는 것은 그렇게 추천하지는 않는다. 적당한 수준은 컴퓨터 비전이든 자연어 처리든, 모델이든 조금은? 안 상태지만 개념이 부족할 때 듣는다면 베스트인 것 같다. 오히려 딥러닝을 마스터하거나 아예 모른다면 이 강의는 무척이나 힘들 것..

모든 데이터 포인트가 동일한 정도의 스케일(중요도)로 반영되도록 해주는 게 정규화(Normalization)의 목표이다. 최소-최대 정규화는 데이터를 정규화하는 가장 일반적인 방법이다. 모든 feature에 대해 각각의 최소값 0, 최대값 1로, 그리고 다른 값들은 0과 1 사이의 값으로 변환하는 거다. 만약 X라는 값에 대해 최소-최대 정규화를 한다면 아래와 같은 수식을 사용할 수 있다. (X - MIN) / (MAX-MIN) 하지만 모든 feature들의 스케일이 동일하지만, 이상치(outlier)를 잘 처리하지 못한다는 단점이 있다. transpose() 는 입력 배열의 축을 반전하거나 단순히 입력 배열을 전치한다. 즉, 사용자가 원하는대로 축을 한번에 여러개를 바꿀 수 있다. 오늘은 이런 함수들을..

이제 앞으로 이틀남았다. 시간이 빨리 흘러간 거 같기도 하고, 벌써 12월인 것이 믿기지는 않는 것 같다. 나름 열심히 공부한 것 같지만 여전히 부족함을 느낀다. 그럼에도 바로 딥러닝 실습을 도전했기 때문에 어려운 거에 많은 자극을 받아 혼자 공부할 수 있는 시간들을 가질 수 있어서 좋았다. 처음 공부 할 때는 tensorflow의 공식 사이트를 이용해서 기초를 다지는 것이 좋다고 생각한다. 텐서의 개념에 대한 개념이 먼저이고, 3D로 가면서 어떤 shape인지도 파악하면 이 강의를 듣는 데 좀 더 수월해 질 것 같다. 사실 중반까지만 하더라도 이미지 데이터에 왜 ( , , )로 들어가는지 이해를 잘 못했었다. 하지만 이미지 처리와 자연어처리 부분에서 같은 것일지라도 해석하는 부분이 다르다는 것을 알았고..

오늘은 fashion mnist 데이터 셋을 이용한 여러 의상 사진에서 옷 종류 구분하기 강의를 들었다. 또한 개인 공부를 할 게 많았기 때문에 가볍게 개요에 대해 들었다. 다중 클래스 분류는 두 개 이상의 클래스가 있는 분류 작업이다. 각 샘플에는 하나의 클래스로만 레이블이 지정될 수 있다. 예를 들어, 과일 이미지 세트에서 추출한 특징을 사용하여 분류한다. 여기서 각 이미지는 오렌지, 사과 또는 배일 수 있다. 각 이미지는 하나의 샘플이며 3가지 가능한 클래스 중 하나로 레이블이 지정된다. 다중 클래스 분류에서는 각 샘플이 하나의 레이블에만 할당된다고 가정한다. 다중 레이블 분류(다중 출력 분류와 밀접하게 관련됨)는 n_classes 가능한 클래스의 m 레이블로 각 샘플에 레이블을 지정하는 분류 작업..

환급 챌린지가 끝나기까지 얼마 남지 않았다. 오늘은 그간 들었던 것들과 개인 공부를 통해 어떤 진척이 있었는지 검토해보고자 한다. 확실한 건 이것을 처음 시작할 때보다는 내 지식이 많이 쌓였다는 것이다. 나름 배웠다고 생각했지만 mnist를 실습할 때 벽을 느꼈던 것 같다. 에러가 나면 그것을 해결하려다 시간이 가는 경우가 대부분이였고, 결국 해결하지 못해 이곳저곳 주제를 바꿔가며 들었던 것 같다. 결핍은 나아가는 데 강력한 동기부여가 된다. 내 부족한 실력을 메꾸기 위해 "케라스 창시자에게 배우는 딥러닝"을 완독했고, 비로소 모델을 왜 쌓는지 전체적인 구조를 알게 된 것 같다. 그럼에도 딥러닝은 분명 알아야 할 게 많은 분야이다. 한 달만에 완성한다는 것은 불가능하고, 이 분야를 공부하려면 정말 체계적..

오늘도 어제에 이어서 같은 주제로 강의를 들었다. 다소 어려운 주제이다. MobileNetV3도 나오고 함수형 API 나오며 조금의 설명 뿐이다. 부랴부랴 찾아서 무슨 함수인지 찾아보았다. MobileNetV3은 NetAdapt 알고리즘이 적용된 NAS을 사용하여 구조를 탐색하고, 탐색한 구조를 수정하여 성능을 개선한 모델이라고 한다. network search하는 방법(자동적으로 최적화)으론 AUTOML적인 관점을 사용해서 structure를 searching하고 tuning하는 방법, block단위에서 최적화, layer단위에서 최적화가 있다고 한다. ... 지금 레벨에서는 이해하기는 힘들 것 같고, 주어진 대로 적용하고 넘어가야 겠다. 함수형 API에서는 직접 텐서들의 입출력을 다룬다. 함수처럼 층..

오늘 강의는 "객체 탐지 및 영상 인식 모델링"을 주제로 들었다. Bag of Tricks for Image Classification with Convolutional Neural Networks 논문을 간단히 설명해 주셨다. 이 논문은 CNN 기법들을 정리한 것이라고 한다. 더 나은 모델을 사용하는 방법에는 1) 더 많은 레이어 2) 더 많은 채널 3) 더 큰 해상도 4) 더 나은 활성화 기능 사용 이다. 효율적인 트레이닝으로는 1) 선형 스케일링 학습률 2) 학습률 웜업 3) batchnorm에서 제로 감마 4) 편향 감쇠가 없음 등이다. 그리고 여기서는 총 4가지의 기법에 대하여 실험을 수행하였다. 1. label smoothing 기법에서 ϵ=0.1ϵ=0.1 로 설정하였다. 2. model di..