영웅은 죽지 않는다

전이 학습 (Transfer Learning, TL)이란 사람이 영어를 완벽하게 구사할 수 있다면, 프랑스어를 배울 때 영어를 배웠던 과정과 유사하게 지식을 습득하는 것과 같은 개념입니다. 과거에 문제를 해결하면서 축적된 경험을 토대로 그것과 유사한 신경망을 학습시키는 방법을 전이 학습(Transfer Learning)이라고 합니다. 이는 학습 속도가 비교적 빠르고, 더 정확하고, 상대적으로 적은 데이터셋으로 좋은 결과를 낼 수 있기 때문에 실무에서 자주 사용하는 방법입니다. 전이 학습은 미리 학습시킨 모델(pretrained models)을 가져와 새로운 데이터셋에 다시 학습시키는 방법입니다. 이는 다른 형태의 데이터셋에 대해서도 효과를 보이는데, 예를 들어 1,000개의 동물/사물을 분류하는 Imag..

합성곱 신경망(Convolutional Neural Networks, CNN)이란 합성곱은 컴퓨터 비전(CV) 분야에서 주로 쓰이는 이미지 처리 방식입니다. 입력데이터와 필터의 각각의 요소를 서로 곱한 후 모두 더하면 출력값이 됩니다. 이를 합성곱이라고 하는데, 연구원들은 이 합성곱을 어떻게 딥러닝에 활용할 수 있을지 고민하다가 1998년 Yann LeCun 교수가 합성곱에 관한 논문을 발표하게 됩니다. 위와 같이 합성곱을 이용한 신경망 디자인을 합성곱 신경망(CNN) 이라고 명칭하였고, 특히 이미지 처리에서 높은 성능을 보이는 것을 증명했습니다. 이후 딥러닝의 전성기를 맞이했으며 얼굴 인식, 사물 인식 등 다양한 곳에 널리 사용되기 시작하였습니다. 합성곱 계층 (Convolutional Layer) -..

딥러닝 (Deep Learning)이란 딥러닝은 머신러닝의 한 분야로서, 복잡한 문제를 풀기 위해 선형 회귀를 여러번 반복해야 하지만 그렇다고 해서 비선형이 되는 것은 아니기에, 선형 회귀 사이에 비선형의 Layer를 넣어야 한다고 생각했고 그에 따라 층을 깊게 (Deep) 쌓는다고 해서 딥러닝(Deep Learning)이라고 불리게 되었습니다. XOR 문제 딥러닝의 태동을 불러온 것은 XOR 문제입니다. 기존의 머신러닝은 오른쪽 사진과 같이 AND, OR 문제로부터 시작하게 되는데, 이와 같은 문제를 풀기 위해서는 논리회귀를 통한 직선 형태로 나타낼 수 있었습니다. 위 수식을 Perceptron 형태의 그림으로 나타내면 다음과 같습니다. 과거에는 w0, w1, w2 값만 잘 지정해주면 (AND, OR ..

논리회귀(Logistic Regression)란 머신러닝에서 입력값과 범주 사이의 관계를 구하는 것을 논리 회귀라고 합니다. ​ 선형회귀에서 풀기 힘든 문제들을 해결할 수 있는 방법 중 하나인데, 그 예시로 ​ 시험 전 날 공부한 시간으로 해당 과목의 이수 여부(Pass or Fail)을 예측하는 문제에서 선형 회귀로 표현하면 다음과 같이 나옵니다. 한 눈에 보기에도 굉장히 이상한 형태입니다. 이런 경우 이진 논리 회귀(Binary Logistic Regression)을 이용하면 해결할 수 있으며 그 결과는 다음과 같습니다. 이와 같이 선형이 아닌 S 커브 형태로 특정 변수를 함수로 표현한 것을 논리 함수(Logistic Function)이라고 하며, 딥러닝에서는 시그모이드 함수(Sigmoid Funct..

선형회귀(Linear Regression)란 머신러닝의 종류에는 무엇이 있고.. 이런 이야기는 건너 뛰고 바로 선형 회귀로 건너가 봅시다. ​ 선형 회귀는 말 그대로 가정을 선형으로 표현하여 예측할 수 있는 형태를 말합니다. ​ 예를 들어, '시험 전 날 마신 커피 잔 수에 따라 시험 점수를 예측할 수 있을까?'라는 가정에 대해, 실험을 통해 다음과 같은 결과를 얻을 수 있었고 이를 그래프로 표시하면 아래와 같이 나옵니다. 우리는 이 그래프를 보고, 임의의 직선 1개로 이 그래프를 비슷하게 표현할 수 있다고 가설을 세울 수 있습니다. 이 선형 모델은 수식으로 H(x) = W x + b 와 같이 표현할 수 있습니다. ​ 여기서 마신 커피 수에 따른 정확한 시험 점수를 예측하기 위해서는 우리가 만든 직선(가..