모집단과 표본집단 (표본평균, 표본분산)

전체 집단(모집단)을 모두 조사하기 어려울 때, 일부(표본)를 뽑아 전체의 특성을 추정하는 통계의 기본 개념 정리

모집단과 표본집단

모집단 (population)

• 알고 싶은 대상 전체의 집합.
• 모집단의 특성을 나타내는 값을 모수(parameter) 라 하며, 보통 $\mu$(평균), ${\sigma }^2$(분산) 으로 표기.
• 전수조사(census)가 가능하면 모수를 정확히 알 수 있지만, 대부분 비용·시간·불가능성 때문에 어려움.

표본집단 (sample)

• 모집단에서 일부를 추출한 집합.
• 표본의 특성을 나타내는 값을 통계량(statistic) 이라 하며, 모수를 추정하는 데 사용.
• 표본이 모집단을 잘 대표하려면 무작위(random) 추출이 중요 (편향된 추출은 잘못된 추정으로 이어짐).

비교

구분	모집단	표본집단
정의	조사 대상 전체	모집단에서 뽑은 일부
크기	$N$	$n$ ($n\le N$)
특성값	모수 (parameter)	통계량 (statistic)
평균	모평균 $\mu$	표본평균 $\bar{x}$
분산	모분산 ${\sigma }^2$	표본분산 $s^2$
표준편차	모표준편차 $\sigma$	표본표준편차 $s$
값의 성질	고정된 값	뽑을 때마다 달라지는 값

예시

상황	모집단	표본
대통령 지지율 조사	전국 유권자	설문에 응답한 1,000명
공장 제품 불량률 검사	하루 생산된 전체 제품	무작위로 뽑은 100개
학교 평균 키 조사	전교생	학년별로 뽑은 50명
센서 노이즈 측정	센서가 낼 수 있는 모든 측정값	10초간 측정한 데이터

---

표본평균(sample mean)

• 표본 데이터의 평균으로, 모평균 $\mu$ 를 추정하는 데 사용한다.

$$\bar{x}=\frac{1}{n}\sum _{i=1}^n{x}_i$$

• 표본을 다시 뽑을 때마다 값이 달라지지만, 평균적으로는 모평균과 같음 ($E[\bar{x}]=\mu$).
• 표본 크기 $n$ 이 클수록 모평균에 가까워짐 (대수의 법칙).

---

표본분산(sample variance)

• 표본 데이터가 표본평균을 기준으로 퍼진 정도로, 모분산 ${\sigma }^2$ 을 추정하는 데 사용한다.

$$s^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\bar{x}{)}^2$$ $$s=\sqrt{s^2}$$

왜 $n$ 이 아니라 $n-1$ 로 나눌까?

• 표본평균 $\bar{x}$ 는 표본 자체에서 계산되므로 표본 데이터와 가깝게 나와, $n$ 으로 나누면 분산이 실제보다 작게 추정됨.
• 편차의 합이 항상 0이라 $n$개 중 $n-1$개만 자유롭게 정해짐 (자유도 = $n-1$).
• $n-1$ 로 나누면 $E[s^2]={\sigma }^2$ 이 되는 불편추정량(unbiased estimator) 이 된다.

모집단 vs 표본 공식 비교

구분	모집단	표본
평균	$\mu =\frac{1}{N}\sum x_i$	$\bar{x}=\frac{1}{n}\sum x_i$
분산	${\sigma }^2=\frac{1}{N}\sum (x_i-\mu {)}^2$	$s^2=\frac{1}{n-1}\sum (x_i-\bar{x}{)}^2$

표본분산 $n-1$ 의 수학적 증명

모집단 평균 $\mu$, 분산 ${\sigma }^2$ 인 모집단에서 서로 독립인 표본 $x_1,\dots ,x_n$ 을 뽑았다고 하자.

• ($E[x_i]=\mu$, $\text{Var}(x_i)=E[(x_i-\mu {)}^2]={\sigma }^2$)

1단계: 편차제곱합을 $\mu$ 기준으로 분해

• $x_i-\bar{x}=(x_i-\mu )-(\bar{x}-\mu )$ 이므로

$$\sum _{i=1}^n(x_i-\bar{x}{)}^2=\sum _{i=1}^n(x_i-\mu {)}^2-2(\bar{x}-\mu )\sum _{i=1}^n(x_i-\mu )+n(\bar{x}-\mu {)}^2$$

• $\sum (x_i-\mu )=n(\bar{x}-\mu )$ 이므로 가운데 항은 $-2n(\bar{x}-\mu {)}^2$ 가 되어

$$\sum _{i=1}^n(x_i-\bar{x}{)}^2=\sum _{i=1}^n(x_i-\mu {)}^2-n(\bar{x}-\mu {)}^2$$

2단계: 기댓값 취하기

• $E\left[(x_i-\mu {)}^2\right]={\sigma }^2$ 이므로 $E\left[\sum (x_i-\mu {)}^2\right]=n{\sigma }^2$
• $\bar{x}$ 의 평균은 $\mu$, 분산은 $\text{Var}(\bar{x})=\frac{{\sigma }^2}{n}$ 이므로 $E\left[(\bar{x}-\mu {)}^2\right]=\frac{{\sigma }^2}{n}$

$$E\left[\sum _{i=1}^n(x_i-\bar{x}{)}^2\right]=n{\sigma }^2-n\cdot \frac{{\sigma }^2}{n}=(n-1){\sigma }^2$$

$\text{Var}(\bar{x})=\text{Var}\left(\frac{1}{n}\sum x_i\right)=\frac{1}{n^2}\cdot n{\sigma }^2=\frac{{\sigma }^2}{n}$ (독립이므로 분산의 합)

3단계: 결론

• $n$ 으로 나누면 기댓값이 모분산보다 작아진다.

$$E\left[\frac{1}{n}\sum (x_i-\bar{x}{)}^2\right]=\frac{n-1}{n}{\sigma }^2\ne {\sigma }^2$$

• $n-1$ 로 나누면 모분산과 일치한다.

$$E[s^2]=E\left[\frac{1}{n-1}\sum (x_i-\bar{x}{)}^2\right]=\frac{1}{n-1}(n-1){\sigma }^2={\sigma }^2$$

• 따라서 $s^2$ 은 ${\sigma }^2$ 의 불편추정량이다.

• 직관: 데이터가 $\mu$ 가 아닌 자기 자신의 평균 $\bar{x}$ 에 더 가깝게 놓이므로 편차제곱합이 $n(\bar{x}-\mu {)}^2$ 만큼 줄어들고, 이를 $n-1$ 로 보정함

---

계산 예시

• 5명 학생의 시험 점수를 모집단으로 보고, 그중 4명을 표본으로 뽑는 경우

• 모집단: 60, 70, 80, 90, 100 ($N=5$)

$$\mu =\frac{60+70+80+90+100}{5}=80$$ $${\sigma }^2=\frac{(-20{)}^2+(-10{)}^2+0^2+10^2+20^2}{5}=\frac{1000}{5}=200$$

• 표본: 70, 80, 90, 100 ($n=4$)

$$\bar{x}=\frac{70+80+90+100}{4}=85$$ $$s^2=\frac{(-15{)}^2+(-5{)}^2+5^2+15^2}{4-1}=\frac{500}{3}\approx 166.7$$

구분	평균	분산
모집단	$\mu =80$	${\sigma }^2=200$
표본	$\bar{x}=85$	$s^2\approx 166.7$

• 표본이 달라지면 $\bar{x}$, $s^2$ 도 달라지므로 표본통계량은 모수와 오차가 있다.
• 표본 크기를 키울수록 이 오차는 줄어든다.

---

참고

• 평균, 분산, 표준편차