Study/DL_Basic

[파이토치로 시작하는 딥러닝 기초]05_ Logistic Regression

Logistic Regression Computing Hypothesis Computing Cost Function Evaluation Higher Implementation Logistic Regression Hypothesis $${H(X) = \frac{1}{1 + e^{-W^TX}}}$$ Cost $${cost(W) = -\frac{1}{m}\sum ylog(H(x)) + (1-y)(log(1-H(x)))}$$ if ${y \simeq H(x)}$, cost is near 0 if ${y \ne H(x)}$, cost is high ${P(x = 1) = 1- P(X = 0)}$ X : ${m\times d}$ 차원, W : ${d\times 1}$ 차원 sigmoid 함수를 이용하여 0과 1에 ..

[파이토치로 시작하는 딥러닝 기초]04.02_Loading Data

Loading Data Minibatch Gradient Descent 이론 Pytorch Dataset and Data Loader 사용법 Data in the Real World 복잡한 머신러닝 모델을 학습하려면 엄청난 양의 데이터가 필요하다 대부분 데이터셋은 적어도 수십만개의 데이터를 제공한다. 엄청난 양의 데이터를 한번에 학습시킬 수 없다. 이유는? 너무 느리고 하드웨어적으로 불가능하기 때문 그렇다면 일부분의 데이터로만 학습하면 어떨까? Minibatch Gradient Descent 전체 데이터를 작은 Minibatch라는 작은 양으로 균일하게 나누어서 minibatch 하나씩 학습하는 방법 그러면 컴퓨터가 dataset의 모든 데이터의 cost를 다 계산한 후 gradient descent를 ..

[파이토치로 시작하는 딥러닝 기초]04.01_Multivariable_Linear_regression

4. Multivariable Linear regression(다항회귀분석) Simple Linear REgression 복습 Multivariate Linear Regression 이론 Naive Data Representation Matrix Data Representation Multivariate Linear Regression nn.Module 소개 F.mse_loss 소개 Simple Linear Regrssion? 하나의 정보로부터 하나의 결론을 짓는 모델 ${H(x) = Wx + b}$ 그러나 우리가 더 다양한 정보를 가지고 다양한 예측을 하기위해서는 단항선형회귀분석으로는 어렵다! Multivariate Linear Regression 복수의 정보가 존재할 떄 하나의 추측값을 계산하는 것 ..

[파이토치로 시작하는 딥러닝 기초]03_Deeper Look at Gradient Descent

Deeper Look at Gradient Descent Hypothesis function Cost function 이해 Gradient descent 이론 Gradient descent 구현 Gradient descent 구현(nn.optiom) Hypothesis (Linear Regression) Hypothesis function은 인공신경망의 구조를 나타내는데 주어진 input에 대해 어떤 output을 나타내는지 𝐻(𝑥)H(x)로 표현한다. $${H(x) = Wx + b}$$ ${W}$ : Weight ${b}$ : bias What is the best model? Cost function 모델 예측값이 실제 데이터와 얼마나 다른지 나타내는 값 잘 학습된 모델일수록 낮은 cost를 가진다...

[파이토치로 시작하는 딥러닝 기초]02_Linear Regression

Linear Regression Data definition (학습할 데이터 알아보기) Hypothesis (가설검정 함수 구현하기) Compute loss (컴퓨팅 loss구하기) Gradient descent Data Definition 공부한 시간과 점수의 상관관계가 얼마나 있는가? 내가 4시간 공부하면 성적을 얼마나 받을까? train set : 학습할 때 사용되는 데이터 set test set : 학습이 끝난 후 이 model이 얼마나 잘 작동하는지 판별하기 위한 data set 실습 data는 torch.tensor! 입력 : x_train 출력 : y_train 입철력은 x, y로 구분 import torch x_train = torch.FloatTensor([[1], [2], [3]]) y..

[파이토치로 시작하는 딥러닝 기초]01_Tensor Manipulation(텐서 조작)

Tensor Manipulation(텐서 조작)¶ Pytorch Basic Tensor Manipulation¶ Vector, Matrix and Tensor Numpy Review Pytorch Tensor Allocation Matrix Multiplication Other Basic Ops Vector, Matrix and Tensor¶ 스칼라(Scaler) : 차원이 없는 값(0차원) 벡터(Vector) : 1차원으로 이루어져있는 값 행렬(Matrix) : 2차원으로 이루어져 있는 값 텐서(Tensor) : 3차원 이상으로 이루어져 있는 값 Pytorch Tensor Shape Convention¶ 텐서의 크기 표현하는 방법 2D Tensor (Typical Simple Setting) |t| =..