[신경망] 17. Transfer Learning
안녕하세요. 이번 포스팅에서는 Transfer Learning 에 대해서 배워보도록 하겠습니다. 기존의 기계학습 알고리즘에서는 2개의 훈련 데이터셋을 학습할 때, 비록 2개의 데이터셋이 비슷한 특징을 가진다고 하더라도, 2개의 모델을 각각 독립적으로 만들어서, 사용합니다. 예를 들어서, 첫번 째 모델은 가구에 소파, 식탁, 장롱 등의 다양한 category를 분류하는 모델이며, 두번 째 모델은 다양한 가구중에서 소파인지 아닌지를 분류하는 binary classification 모델이라고 가정하면, 첫번째와 두번째 모델은 각각 독립적으로 학습됩니다. 반면에, Transfer Learning은 이전에 사용되었던 모델의 정보를 입력받아 새로운 모델을 학습합니다. 예를 들어서, 가구를 분류하는 CNN 네트워..
[신경망] 15. CNN Architecture (1) AlexNet, ZFNet
안녕하세요, 이번 포스팅부터는 CNN Architecture, 즉 지금까지 CNN 대회에서 수상을 한 작품(?)을 배워보도록 하겠습니다. 저희가 알아볼 신경망은 총 AlexNet, ZFNet, VGGNet, GoogLeNet, ResNet 총 5가지입니다. 오늘은 첫번 째 시간으으로 AlexNet, ZFNet 2가지를 알아보도록 합시다. AlexNet은 오분류율이 16.4%로 그렇게 낮은 값은 아니지만, 저 당시에는 굉장한 수치였습니다. 그래프에서 보시다시피, 이전 수상작에서는 25.8%인 것을 감안하면, 엄청난 발전입니다. 이는 이전 수상작들은 shallow network의 였던 반면 AlexNet은 8개의 층을 가지기 때문으로 생각할 수 있습니다. 우선 AlexNet의 구조를 살펴보도록 하겠습니다..