Deep Neural Networks 모델 성능 개선 과대적합과(Overfitting) 과소적합(underfitting) 최적화(Optimization)와 일반화(generalization) 최적화(Optimization): train data에서 최고의 성능을 얻으려고 모델을 조정하는 과정 (옵티마이저가 한다.) 일반화(Generalization): 훈련된 모델이 처음 보는 데이터에서 얼마나 잘 수행되는지를 의미 과소적합(Underfitting)의 발생 epoch가 진행될 수록 train loss와 test loss(validation loss)가 모두 안 좋음 핵심 : train loss도 안좋고 test loss도 안 좋다. 모델이 너무 단순하면 train loss가 줄어들 지 않는다. 그런 경우 ..

데이터셋 API 데이터 입력 파이프라인을 위한 패키지 tf.data 패키지에서 제공 tf.data.Dataset 추상클래스에서 상속된 여러가지 클래스 객체를 사용 또는 만들어 쓴다. 데이터 입력 파이프라인이란 모델에 공급되는 데이터에 대한 전처리 작업과 공급을 담당한다. 이미지 데이터의 경우 분산 파일시스템으로 부터 이미지를 모으는 작업, 이미지에 노이즈를 주거나 변형하는 작업, 배치 학습을 위해 무작위로 데이터를 선택하여 배치데이터를 만드는 작업 텍스트 데이터 경우 원문을 토큰화하는 작업 임베딩하는 작업 길이가 다른 데이터를 패딩하여 합치는 작업 데이터셋 API 사용 세단계 데이터셋 생성 from_tensor_slices(), from_generator() 클래스 메소드, tf.data.TFRecord..

DNN (Deep Neural Network) 유닛/노드/뉴런 (Un1qit, Node, Neuron) Tensor를 입력받아 tensor를 출력하는 데이터 처리 모듈 Input -> Output 입력 값에 Weight(가중치)를 곱하고 bias(편향)을 더한 뒤 활성화 함수를 거쳐 출력한다. 레이어/층(Layer) Input Layer: 입력값들을 받아 Hidden Layer에 전달하는 노드들로 구성된 Layer. Output Layer: 예측결과를 출력하는 노드들로 구성된 Layer Hidden Layer Input Layer와 Output Layer사이에 존재하는 Layer. 데이터의 패턴을 찾는 역할을 한다. 대부분 Layer들은 가중치(weight)를 가짐 (dropout, pooling과 같이..