반응형

2024/03 10

[회귀분석] 단순선형회귀분석(Linear Regression)(11) - 회귀직선의 오차

RMSE (제곱근-평균-제곱 오차) 추정의 표준오차(standard error of estimate) 또는 회귀의 표준오차 (standard error of regression)라고도 불림 실제 값과 예측치의 차이 회귀직선과 RMSE 회귀직선은 x값에 따라 분류된 부분집단 별로 자료의 중심을 알려줌 RMSE는 개별 관측치 속한 준거집단의 평균으로부터 떨어진 정도를 대략적으로 알려준다. 회귀직선과 RMSE를 알면 평균과 표준편차를 알 때처럼 68-95 법칙을 활용해 볼 수 있음. RMSE 공식 예시 산포도에서 전형적인 점(typical point)은 회귀직선으로부터 위 또는 아래로 9.3kg 정도 떨어져 있다. 실제 몸무게는 추정된 몸무게와 약 9.3kg 정도 다름 분모에 표본크기가 아닌 자유도가 사용 자..

[회귀분석] 단순선형회귀분석(Linear Regression)(10) - 회귀효과 / 회귀오류

회귀효과 - 평범으로의 회귀 평범으로의 회귀 : 측정한 값이 극단값인 경우, 다음에 측정하면 평균에 더 가까워지는 현상을 의미 중간고사에서 평균점수 정도 받은 학생들은 평균적으로 기말고사에서도 평균점수 정도를 받음 오른쪽 타원에 위치한 학생 오른쪽에 있는 길게 늘어진 타원형(중간고사에서 평균점수보다 잘 본 학생)들은 표준편차선 아래쪽에 위치한 경우가 많음 즉, 중간고사에서 평균보다 잘 본 학생들은 실력도 평균보다 위에 있을 수 있지만, 상대적으로 운이 좋은 학생들이 많이 포함되어 있을 가능성이 높음. 하지만 기말고사에서 운이 반복된다는 보장이 없기 때문에 인 표준편차선(기말고사에서는 같은 정도의 운이 반복 됐을 때 그려지는 선 )보다 아래쪽에 학생들이 좀 더 많이 위치하게됨 즉, 회귀직선상의 점은 표준편..

[기초통계학] 산포도와 상관계수, 그리고 상관관계

산포도 (Scatter plot) 두 변수 사이의 관계를 살펴보기 위해 산포도를 이용한다. 설명변수는 x로 표기하고 가로축에 표시 피설명변수는 y로 표기하고 세로축에 표시 설명변수와 피설명변수간 관계가 약한경우 변수 사이의 관계가 약하면 한 변수 값으로 다른 변수 값을 예측하기 어려움 위 산포도에서 중간고사에서 150점 받은 학생들의 기말고사 성적은 55점에서 175점 사이에 분포하므로 중간고사 점수로 기말고사 점수를 예측하기 어려움 설명변수와 피설명변수간 관계가 강한경우 변수 사이의 관계가 강하면 한 변수 값으로 다른 변수 값을 예측하는것이 가능해짐 아래 산포도에서 중간고사에서 150점 받은 학생들의 기말고사 성적은 105점에서 175점 사이에 분포함 (위 케이스보다 예측 범위가 감소함) 상관계수 상관..

[기초통계학] 정규분포(표준정규분포, 표준화)

표준편차 포스팅에서 이어지는 내용입니다 https://ysyblog.tistory.com/163 [기초통계학] 표준편차와 자유도 제곱근-평균-제곱 (Root Mean Square) (RMS) 계산은 표현의 역순(제곱 후 평균, 최종적으로 제곱근) 제곱 (S) : 모든 수를 제곱하여 부호를 없앤다. 평균 (M) : 제곱된 값들의 평균을 구한다. 제곱근 (R) : 제 ysyblog.tistory.com 정규분포(Normal Distribution) 정규 분포(normal distribution) 또는 가우스 분포(Gaussian distribution)는 연속 확률 분포 중 하나를 의미 정규분포는 2개의 모수 $\mu, \sigma$로 (평균, 표준편차)로 결정되며 $N(\mu, \sigma^2)$로 표현 ..

[기초통계학] 표준편차와 자유도

제곱근-평균-제곱 (Root Mean Square) (RMS) 계산은 표현의 역순(제곱 후 평균, 최종적으로 제곱근) 제곱 (S) : 모든 수를 제곱하여 부호를 없앤다. 평균 (M) : 제곱된 값들의 평균을 구한다. 제곱근 (R) : 제곱-평균된 값에 제곱근을 취한다. 표준편차 표준편차(SD)는 “평균으로부터의 편차들”의 RMS와 “대략” 비슷 (편차들에 대해 적용한 RMS) 다만 중간에 있는 M을 계산할때 1을빼서 계산 (CF. 이것과 관계있는 개념이 자유도) 표준편차는 관측치들이 평균으로부터 얼마나 떨어져 있는지 알려줌 평균값을 중심으로 평균적으로 s만큼 퍼져 있다는 의미 만약 어떤 집단의 평균값이 3이고 표준편차가 1.5라면, 좌우로 1.5(1.5 ~ 4.5)정도 퍼져있다는 것. 68-95법칙 관측..

[기초통계학] 데이터와 통계량 - 평균과 중앙값

데이터와 통계량 변수 : 어떤 대응관계로 변화하는 수, 혹은 함수관계로 대응하며 주어진 범위 안에서 변화하는수 → 변수는 데이터로 구성되고, 데이터를 근거로 변수의 특성을 파악 데이터 : 조사의 목적에 맞는 변수를 기반으로, 표본으로부터 수집된 자료 → 사회과학분야에서 보통 통계조사를 할때는 표본의 특징을 표현하기 위해 단일자료 수집 → 핵심적 연구나 조사를 목적으로 할 때는 다중자료를 수집 기초 통계량 평균 (Mean) 평균(mean)은 관측치의 총합을 관측치의 개수로 나누어 구한다. 중심경향도 : 데이터를 종합하여 그 중심을 이루는 값이 어느정도가 될지를 구한 것 통계에서 가장 많이 사용되는 중심경향도(u) 표본의 특성을 제시할 때 가장 먼저 사용 중앙값 (Median) 절반 이상의 숫자들이 이 값보..

[기초통계학] 실험연구와 경험적연구(자연실험)

실험 연구 실험연구란 변인들의 관계를 발견하기 위해 상황을 통제하여 독립변수를 인의적으로 control하여 그것이 종속변수에 어떤 영향을 미치는지를 측정 및 분석하는 연구이다 많은 경우 연구자는 특정 처리(예컨대, 대학 교육, 백신 투여 등)의 효과를 처리집단과 통제집단간 반응(예컨대, 소득, 소아마비 발병률 등)을 비교함 으로써 파악하고자 한다. 여기서 처리를 가한 집단을 처리집단(treatment group), 처리를 가하지 않은 집단을 통제집단(control group)이라고 부른다. 실험 연구의 특징 독립 변수 중 몇개를 실험자가 control한다 무작위 배정 (randomized control) 처리집단(treatment)과 통제집단(control)으로 구분. 확률에 의존한 무작위 배정.(예컨대..

[기초통계학] 통계학과 자료 / 선택편향과 생존편향

통계학이란 통계학은 자료를 정리/분석해 유용한 정보를 얻기 위한 언어이자 도구 통계학의 분류 통계학은 크게 두 가지로 분류할 수 있다. 기술통계학 (descriptive statistics) 자료를 변수 별로 따로따로 또는 관계되는 변수끼리 묶어서 요약 추론통계학(inferential statistics) 정리된 자료에 담긴 의미를 해석하여 미지의 세계에 대해 추론 모집단과 표본사이의 관계 통계학은 표본의 자료를 수집, 정리, 요약 나아가 요약된 자료를 토대로 그 자료의 모태가 되는 모집단에 대해 짐작, 추측해 보는 작업을 포함 자료의 종류 횡단면 자료(cross-sectional data) 한 시점에서 여러 개체를 관측한 자료. 시계열 자료(time-series data) 한 개체를 여러 시점에 걸쳐 ..

[기초통계학] 변수(질적변수/양적변수/독립변수/종속변수/통제변수)와 척도 (명목/순서/간격/비율)

변수(Variable) 정보가 수집되는 특정한 개체나 대상 (보통 열(Column) 값들을 의미) 질적변수 / 양적변수(데이터의 특성에 따른 분류) 질적변수(Qualitative Variable) 변수의 값이 비수치적 특정 카테고리에 포함 시키도록 하는 변수 (ex.색상, 성별, 종교) 명목변수(Nominal Variable): 변수의 값이 특정한 범주(Category)에 들어가지만 해당 범주간 순위는 존재하지 않는 것 (ex.혈액형) 순위변수(Ordinal Variable): 변수의 값이 특정 범주에 들어가면서 변수의 값이 순위를 가지는 경우 (ex.성적) 양적변수(Quantitative Variable) 변수의 값을 숫자로 나타 낼 수 있는 변수 (ex. 키, 몸무게, 소득) 이산변수(Discrete..

[기초통계학] 표본 분포와 중심극한정리

표본분포 (Sampling distribution) 모집단에서 일정 크기로 표본을 여러번 뽑을 때, 그 표본의 통계량의 확률분포 예를 들어 모집단에서 1000명을 sampling할 때마다 수치가 나오는데 이 수치들의 통계량을 의미 즉, 여러번 추출을 진행 통계적 추정/검정의 핵심 Cf) 표본평균의 확률분포를 구하는 이유 표본을 한번 Sampling을 했을때 bias가 낄 수 있기 때문에, 여러번 sampling 을 하게 되는데, 이때 분포가 생성되고 그 분포의 평균이 실제 평균과 가까울 확률이 높음 표본평균의 평균과 표준편차 $X_1, ... ,X_n$이 모평균 u, 모표준편차 σ 인 모집단으로부터의 확률표본 (i.i.d) 일때 (동일한 분포에서 나왔다는 의미) 표본평균의 평균과 분산 CF) expect..

반응형