반응형

기초통계학 24

[회귀분석] 단순선형회귀분석(Linear Regression)(11) - 회귀직선의 오차

RMSE (제곱근-평균-제곱 오차) 추정의 표준오차(standard error of estimate) 또는 회귀의 표준오차 (standard error of regression)라고도 불림 실제 값과 예측치의 차이 회귀직선과 RMSE 회귀직선은 x값에 따라 분류된 부분집단 별로 자료의 중심을 알려줌 RMSE는 개별 관측치 속한 준거집단의 평균으로부터 떨어진 정도를 대략적으로 알려준다. 회귀직선과 RMSE를 알면 평균과 표준편차를 알 때처럼 68-95 법칙을 활용해 볼 수 있음. RMSE 공식 예시 산포도에서 전형적인 점(typical point)은 회귀직선으로부터 위 또는 아래로 9.3kg 정도 떨어져 있다. 실제 몸무게는 추정된 몸무게와 약 9.3kg 정도 다름 분모에 표본크기가 아닌 자유도가 사용 자..

[회귀분석] 단순선형회귀분석(Linear Regression)(10) - 회귀효과 / 회귀오류

회귀효과 - 평범으로의 회귀 평범으로의 회귀 : 측정한 값이 극단값인 경우, 다음에 측정하면 평균에 더 가까워지는 현상을 의미 중간고사에서 평균점수 정도 받은 학생들은 평균적으로 기말고사에서도 평균점수 정도를 받음 오른쪽 타원에 위치한 학생 오른쪽에 있는 길게 늘어진 타원형(중간고사에서 평균점수보다 잘 본 학생)들은 표준편차선 아래쪽에 위치한 경우가 많음 즉, 중간고사에서 평균보다 잘 본 학생들은 실력도 평균보다 위에 있을 수 있지만, 상대적으로 운이 좋은 학생들이 많이 포함되어 있을 가능성이 높음. 하지만 기말고사에서 운이 반복된다는 보장이 없기 때문에 인 표준편차선(기말고사에서는 같은 정도의 운이 반복 됐을 때 그려지는 선 )보다 아래쪽에 학생들이 좀 더 많이 위치하게됨 즉, 회귀직선상의 점은 표준편..

[기초통계학] 산포도와 상관계수, 그리고 상관관계

산포도와 상관계수(상관관계)산포도 (Scatter plot)두 변수 사이의 관계를 살펴보기 위해 산포도를 이용한다. 설명변수는 x로 표기하고 가로축에 표시 피설명변수는 y로 표기하고 세로축에 표시설명변수와 피설명변수간 관계가 약한경우변수 사이의 관계가 약하면 한 변수 값으로 다른 변수 값을 예측하기 어려움위 산포도에서 중간고사에서 150점 받은 학생들의 기말고사 성적은 55점에서 175점  사이에 분포하므로 중간고사 점수로 기말고사 점수를 예측하기 어려움 설명변수와 피설명변수간 관계가 강한경우 변수 사이의 관계가 강하면 한 변수 값으로 다른 변수 값을 예측하는것이 가능해짐 아래 산포도에서 중간고사에서 150점 받은 학생들의 기말고사 성적은 105점에서 175점 사이에 분포함 (위 케이스보다 예측 범위가..

[기초통계학] 정규분포(표준정규분포, 표준화)

표준편차 포스팅에서 이어지는 내용입니다 https://ysyblog.tistory.com/163 [기초통계학] 표준편차와 자유도 제곱근-평균-제곱 (Root Mean Square) (RMS) 계산은 표현의 역순(제곱 후 평균, 최종적으로 제곱근) 제곱 (S) : 모든 수를 제곱하여 부호를 없앤다. 평균 (M) : 제곱된 값들의 평균을 구한다. 제곱근 (R) : 제 ysyblog.tistory.com 정규분포(Normal Distribution) 정규 분포(normal distribution) 또는 가우스 분포(Gaussian distribution)는 연속 확률 분포 중 하나를 의미 정규분포는 2개의 모수 $\mu, \sigma$로 (평균, 표준편차)로 결정되며 $N(\mu, \sigma^2)$로 표현 ..

[기초통계학] 표준편차와 자유도

제곱근-평균-제곱 (Root Mean Square) (RMS) 계산은 표현의 역순(제곱 후 평균, 최종적으로 제곱근) 제곱 (S) : 모든 수를 제곱하여 부호를 없앤다. 평균 (M) : 제곱된 값들의 평균을 구한다. 제곱근 (R) : 제곱-평균된 값에 제곱근을 취한다. 표준편차 표준편차(SD)는 “평균으로부터의 편차들”의 RMS와 “대략” 비슷 (편차들에 대해 적용한 RMS) 다만 중간에 있는 M을 계산할때 1을빼서 계산 (CF. 이것과 관계있는 개념이 자유도) 표준편차는 관측치들이 평균으로부터 얼마나 떨어져 있는지 알려줌 평균값을 중심으로 평균적으로 s만큼 퍼져 있다는 의미 만약 어떤 집단의 평균값이 3이고 표준편차가 1.5라면, 좌우로 1.5(1.5 ~ 4.5)정도 퍼져있다는 것. 68-95법칙 관측..

[기초통계학] 데이터와 통계량 - 평균과 중앙값

데이터와 통계량 변수 : 어떤 대응관계로 변화하는 수, 혹은 함수관계로 대응하며 주어진 범위 안에서 변화하는수 → 변수는 데이터로 구성되고, 데이터를 근거로 변수의 특성을 파악 데이터 : 조사의 목적에 맞는 변수를 기반으로, 표본으로부터 수집된 자료 → 사회과학분야에서 보통 통계조사를 할때는 표본의 특징을 표현하기 위해 단일자료 수집 → 핵심적 연구나 조사를 목적으로 할 때는 다중자료를 수집 기초 통계량 평균 (Mean) 평균(mean)은 관측치의 총합을 관측치의 개수로 나누어 구한다. 중심경향도 : 데이터를 종합하여 그 중심을 이루는 값이 어느정도가 될지를 구한 것 통계에서 가장 많이 사용되는 중심경향도(u) 표본의 특성을 제시할 때 가장 먼저 사용 중앙값 (Median) 절반 이상의 숫자들이 이 값보..

[기초통계학] 통계학과 자료 / 선택편향과 생존편향

통계학이란 통계학은 자료를 정리/분석해 유용한 정보를 얻기 위한 언어이자 도구 통계학의 분류 통계학은 크게 두 가지로 분류할 수 있다. 기술통계학 (descriptive statistics) 자료를 변수 별로 따로따로 또는 관계되는 변수끼리 묶어서 요약 추론통계학(inferential statistics) 정리된 자료에 담긴 의미를 해석하여 미지의 세계에 대해 추론 모집단과 표본사이의 관계 통계학은 표본의 자료를 수집, 정리, 요약 나아가 요약된 자료를 토대로 그 자료의 모태가 되는 모집단에 대해 짐작, 추측해 보는 작업을 포함 자료의 종류 횡단면 자료(cross-sectional data) 한 시점에서 여러 개체를 관측한 자료. 시계열 자료(time-series data) 한 개체를 여러 시점에 걸쳐 ..

[기초통계학] 변수(질적변수/양적변수/독립변수/종속변수/통제변수)와 척도 (명목/순서/간격/비율)

변수(Variable)정보가 수집되는 특정한 개체나 대상 (보통 열(Column) 값들을 의미) 질적변수 / 양적변수(데이터의 특성에 따른 분류)질적변수(Qualitative Variable)변수의 값이 비수치적 특정 카테고리에 포함 시키도록 하는 변수 (ex.색상, 성별, 종교)명목변수(Nominal Variable): 변수의 값이 특정한 범주(Category)에 들어가지만 해당 범주간 순위는 존재하지 않는 것 (ex.혈액형)순위변수(Ordinal Variable): 변수의 값이 특정 범주에 들어가면서 변수의 값이 순위를 가지는 경우 (ex.성적)양적변수(Quantitative Variable)변수의 값을 숫자로 나타 낼 수 있는 변수 (ex. 키, 몸무게, 소득)이산변수(Discrete Variabl..

[기초통계학] 지수분포(지수분포의 기댓값과 분산,지수분포의 무기억성)

지수분포(Exponential Distribution) $Expo(\lambda)$ 연속확률분포의 일종 지수분포는 첫사건이 발생하는 데 걸리는 시간분포 사건이 서로 독립적일 때, 일정 시간 동안 발생하는 사건의 횟수가 푸아송 분포를 따른다면, 다음 사건이 일어날 때까지 대기 시간은 지수분포를 따름 모수 λ (rate parameter(비율 모수)- 속도를 나타내는 모수) 지수분포의 확률밀도함수 정의 $PDF: f(x) = \lambda e^{-\lambda x}, x>0 (0 otherwise)$ 조건 확인: $\displaystyle \int ^\infty _0 \lambda e^{-\lambda x} dx = 1$ e는 자연상수를 의미 지수분포의 누적분포함수 λ는 평균속도이므로, $ \frac{1}{..

[기초통계학] 확률밀도함수 (연속확률분포, 균등분포)

확률밀도함수(Probability Density Function) (PDF) 확률변수 X가 모든 a,b 에 대하여 $P(a \le X \le b) = \displaystyle \int_a ^b f(x)dx$ 를 만족시킬 때, X는 확률밀도함수(PDF) f(x)를 갖는다. a=b 인 경우, $\displaystyle \int _a ^af(x)dx = 0$ 확률밀도함수가 필요한 이유는 P(X=x) = 0이기 때문 (특정값에 대한 확률은 0) 0과 1사이에는 수많은 실수가 존재함 -> 확률질량함수에서는 이 모든 실수에 대한 확률이 0임 따라서 확률밀도함수는 값에 일정한 범위를 두고 확률을 계산 확률밀도함수에도 누적분포함수(CDF)가 존재 확률밀도함수의 세로축은 확률 그 자체의 값이 아니라 상대적 발생 가능성을..

반응형