본문 바로가기

AI/PyTorchZeroToAll by Sung Kim11

[PyTorchZeroToAll] 3. Gradient Descent 이번 시간에는 손실 함수의 최소값을 알기 위해서 사용하는 gradient descent 알고리즘에 대해 알아보도록 하겠다. 저번 시간에 배웠듯이 가중치값을 달리하면서 에러의 평균값들을 알아내서 손실 그래프를 그릴 수 있었다. 우리는 손실 함수의 값을 최소로 하는 가중치를 사용하여 모델을 훈련시키고 싶은 것이다. 그렇다면 이번에는 Linear Regression Error에 대해 알아보도록 하겠다. 위 예에서는 파란 선이 맞는 weight을 사용한 것이므로 우리는 주황색이든 초록색이든 선에서 시작해서 파란선으로 가까이 가게 해야한다. 우리가 해야할 것은 손실 함수를 최소로 하게 하는 가중치 weight을 찾는 것이고, 이것을 pytorch에서는 argmin 함수로 알아낼 수 있다. 위의 arg_w_minl.. 2020. 1. 21.
[PytorchZeroToAll] 2. Linear Model 저번 시간에는 machine learning에 대해 간단하게 배웠고 어떻게 작동하는지 알아보았다. 이미 답이 있는 labeled training dataset으로 모델을 일단 훈련시키고 나면 test dataset으로 우리의 모델을 검증한다. 이런 종류의 머신러닝을 지도학습(Supervised Learning)이라고 하고, 이것은 답이 있는 데이터로 우리의 모델을 훈련시키고 이끌기 때문에 그렇다. 우리의 모델을 디자인하기 위해서 가장 먼저 할 것은 입력 데이터과 출력 데이터의 관계를 파악하는 것이다. 위의 예시 데이터의 경우에는 입력과 출력이 선형(linear)의 관계를 가지고 있어서 비례한다. 선형 모델는 매우 쉽고 간단하지만 머신러닝을 처음 시작하기에 딱 적합하다. x라는 입력값을 받으면 선형 모델로.. 2020. 1. 21.
[PyTorchZeroToAll] 1. Overview 유튜브의 Sung Kim 교수님의 PyTorch Zero To All 강의를 듣고 강의 내용을 정리하려고 한다. 이번 강의의 목표는 머신러닝과 딥러닝의 기본적 개념 이해와 pytorch 사용법을 익히도록 한다. ● 머신러닝 머신 러닝에 대해 알아보기 전에 human intelligence에 대해서 알아보자. 어떻게 사람들이 결정을 내리는 것일까? 예를 들어, 점심에 무엇을 먹을지 결정하는가? 첫째로, 우리는 우리가 뭘 좋아하고 뭘 싫어하는지에 대한 정보를 수집한다. 그 정보들을 이용해서 무엇을 먹을지 결정한다. 이 과정을 우리는 정보를 가지고 추론(infer)한다고 한다. 만약 정보가 이미지 형태라면 그것을 보고 그 사진안에 고양이가 있다는 것을 예측(prediction)한다. 만약 4시간 공부했다는 정.. 2020. 1. 20.