반응형

손실함수 3

[Deep Learning] DNN (Deep Neural Network)

DNN (Deep Neural Network)DNN은 딥러닝을 위해 사용되는 인공신경망입력층과 출력층 사이에 여러가지의 은닉층으로 이루어진 인공신경망을 일컬음DNN 구성 요소유닛/노드/뉴런 (Unit, Node, Neuron)Tensor를 입력받아 tensor를 출력하는 데이터 처리 모듈Input -> Output입력 값에 Weight(가중치)를 곱하고 bias(편향)을 더한 뒤 활성화 함수를 거쳐 출력한다.레이어/층(Layer)Input Layer: 입력값들을 받아 Hidden Layer에 전달하는 노드들로 구성된 Layer.Output Layer: 예측결과를 출력하는 노드들로 구성된 LayerHidden LayerInput Layer와 Output Layer사이에 존재하는 Layer.데이터의 패턴을 ..

[Machine Learning][머신러닝] 로지스틱 회귀(Logistic Regression)

로지스틱 회귀 (LogisticRegression)선형회귀 알고리즘을 이용한 이진 분류 모델Sample이 특정 클래스에 속할 확률을 추정한다. 확률 추정선형회귀 처럼 입력 특성(Feature)에 가중치 합을 계산한 값을 로지스틱 함수를 적용해 확률을 계산한다.import matplotlib.pyplot as pltxx = np.linspace(-10, 10, 100)sig = 1 / (1 + np.exp(-xx))plt.figure(figsize=(15, 5))plt.plot(xx,xx, color='g', label='linear')plt.plot(xx, sig, color='b', linewidth=2, label="logistic")plt.plot([-10, 10], [0, 0], color='k'..

[Machine Learning][머신러닝] 최적화 / 경사하강법

최적화 (Optimize) 모델이 예측한 결과와 실제 값의 차이를 줄이기 위해서 모델을 수정해야 하는 작업을 최적화라고 한다. 모델의 예측값과 실제 값의 차이를 계산하는 함수를 만들고 그 값이 최소가 되는 지점을 찾는 작업을 한다. 최적화 문제 함수 f(x) 의 값을 최소화(또는 최대화) 하는 변수 x의 값을 찾는 것 import numpy as np import matplotlib.pyplot as plt def func(x): return (x-1)**2 + 2 plt.figure(figsize=(10,10)) xx = np.linspace(-3,4, 100) # xx.shape, f1(xx).shape plt.plot(xx, func(xx)) plt.plot(1,2, 'ro', markersize=..

반응형