본문 바로가기

deeplearning3

[CS231n] 11. Detection and Segmentation 이번 시간에는 이미지에서 딥러닝을 사용한 Detection & Segmentation을 알아보도록 하겠다. YOLO와 SSD의 공통점을 알아보도록 하겠다. 거의 같은 시기에 나왔고, 모두 feed forward를 오로지 한 방향으로 수행하는 네트워크들이다. 주요 아이디어는 각 Task를 따로 계산하지 말고 하나의 regression 문제로 풀어보자는 것이다. 거대한 CNN을 통과하면 모든 것을 담은 예측값이 한 번에 나오는 형태이다. 먼저, 입력 이미지가 있으면 이미지를 7x7 grid같이 큼지막하게 나눈다. 각 grid cell 내부에는 base Bounding Box가 존재할 것이고, 위의 예시의 경우에는 길쭉한 모양, 넓찍한 모양, 정사각형으로 3가지이다. 실제로는 3개 이상을 사용한다고 한다. 이.. 2020. 2. 16.
[DLBasic] 8-2. Back-propagation과 Deep의 출현 저번 시간에 neural network의 등장과 XOR 문제를 해결하기 위해서 back propagation과 CNN이 등장하게 된 배경을 배웠다. 하지만 Back Propagation이 여러 층에 사용되었을 때 input으로 점점 되돌아갈수록 error가 점점 약해져서 결국 학습에 영향을 줄 수 없다는 문제가 생겼었다. 위의 CIFAR이라는 단체는 당장 활용도가 없어도 연구를 하도록 장려했다. 이전에 외면을 받은 Neural Network에 대해 지원을 해줌으로써 지금의 딥러닝이 이루어질 수 있다고 할 수 있겠다. CIFAR의 지원으로 Hinton과 Bengio 교수님께서 큰 breakthrough가 될 논문을 발표했다. 이 논문은 여태까지는 깊은 신경망은 학습할 수 없다고 했는데 초기값을 잘못 주었기.. 2020. 1. 16.
[DLBasic] 8-1. 딥러닝의 기본 개념 : 시작과 XOR 문제 딥러닝이 어떻게 생겨나게 되었는지 알아보도록 하겠다. 생활을 더 편리하게 기계가 일들을 처리하게 하기 위해 우리의 뇌처럼 기계가 사고해서 알아서 일을 잘 처리할 수 있게 해야했다. 우리의 뇌는 뉴런이 신호를 전달받아서 받은 input에 weight을 곱한 값들을 다 합친 다음 bias라는 값이 더해져서 전달된다. 이 합이 어느 정도 이상이면 활성화가 되고 넘지 못하면 활성화가 되지 않는다. 이런 뉴런을 위와 같이 구상해볼 수 있다. 이전 시간에 배웠던 logistic regression을 적용하여 여러 단계로 구성하여 모으면 오른쪽과 같은 형태가 될 것이다. 이 기계를 위와 같이 하드웨어로 직접 만들 수 있다. 이것이 많은 사람들의 관심을 끌자, 하드웨어를 만든 박사님이 그 기계가 걷고, 말하고, 보며 .. 2020. 1. 16.