모평균과 모비율의 추정

뉴스에서 "1000명을 조사한 결과 지지율은 52%이고, 신뢰도 95%에서 오차 범위는 ±3.1%p"라고 전했다. 오차 범위 ±3.1%p는 어디서 나온 수이고, 신뢰도 95%의 95%는 무엇에 대한 확률일까? 오차 범위를 ±3%p 안으로 줄이려면 표본을 몇 명으로 늘려야 할까? 또 실제 지지율이 52%일 확률이 95%라는 뜻으로 읽어도 될까?

3.9.1표본비율이 흔들리는 폭

모비율이 \(p\)인 모집단에서 \(n\)명을 임의추출하면, 지지한다고 답한 사람의 수는 이항분포 \(B(n, p)\)를 따른다. 그래서 표본비율 \(\hat p\)는 평균이 \(p\), 표준편차가 \(\sqrt{p(1 - p)/n}\)이고, \(n\)이 크면 근사적으로 정규분포를 따른다. 정규분포에서는 값의 95%가 평균에서 표준편차의 1.96배 안에 들어간다. 그래서 표본을 뽑을 때마다 \(\hat p\)는 95%의 확률로 \(p\)에서 \(1.96\sqrt{p(1 - p)/n}\) 안쪽에 떨어진다. 모르는 \(p\) 대신 \(\hat p\)를 넣은 이 폭이 오차 범위이다.

신뢰도 95%는 이 방법으로 구간을 만들면 100번 가운데 약 95번은 구간이 참값 \(p\)를 포함한다는 뜻이다. 참값 \(p\)는 하나로 정해진 수이고 흔들리는 것은 표본에서 만든 구간이다. 그래서 한 번 만든 구간을 두고 참값이 그 안에 있을 확률이 95%라고 말하는 것은 정확하지 않다. 표본을 다시 뽑을 때마다 구간의 위치가 바뀌며, 그 가운데 약 5%는 참값을 놓친다.¹

3.9.2표본 크기 정하기

조사를 하기 전에 원하는 오차 범위 \(e\)를 정하면 필요한 표본 크기를 거꾸로 계산할 수 있다. \(1.96\sqrt{\hat p(1 - \hat p)/n} \le e\)를 \(n\)에 대해 풀면 \(n \ge 1.96^2\,\hat p(1 - \hat p)/e^2\)이다. 조사 전에는 \(\hat p\)를 모르므로, \(\hat p(1 - \hat p)\)가 가장 큰 \(\hat p = 0.5\)일 때의 값 0.25를 넣어 넉넉히 정한다. 또 오차 범위는 \(1/\sqrt n\)에 비례하므로, 오차를 절반으로 줄이려면 표본을 네 배로 늘려야 한다. 그래서 오차 범위를 아주 작게 하는 데에는 비용이 크게 든다.

3.9.3예제 풀이

표준오차는 \(\sqrt{0.52\times0.48/1000} \approx 0.0158\)이고, 오차 범위는 \(1.96\times0.0158 \approx 0.031\)이다. 신뢰구간은 \(0.52 \pm 0.031\), 곧 0.489에서 0.551까지이다. 구간에 0.5가 들어 있으므로 실제 지지율이 절반보다 낮을 수도 있어 과반이라고 단정할 수 없다.

오차 범위를 0.03 안으로 하려면 \(n \ge 1.96^2\times0.25/0.03^2 = 3.8416\times0.25/0.0009 \approx 1067.1\)이므로 적어도 1068명을 조사해야 한다. 우리나라 여론조사가 대개 1000명 남짓을 조사하고 오차 범위 ±3.1%p를 밝히는 것도 이 계산에서 나온다. 즉 표본비율은 \(\sqrt{p(1 - p)/n}\)의 폭으로 흔들리므로 그 1.96배를 오차 범위로 삼아 신뢰구간을 만들고, 원하는 오차 범위에서 거꾸로 필요한 표본 크기를 정할 수 있다.

아래 탐구 카드에서 신뢰구간을 100번 만들어 몇 번이 참값을 포함하는지 세어 보고, 원하는 오차 범위에 맞는 표본 크기를 계산해 보자.

1. 신뢰구간이라는 생각은 1937년 폴란드 출신의 통계학자 네이만이 정리했다. 그는 구간이 참값을 포함할지는 구간을 만들기 전의 확률일 뿐이고, 만든 뒤에는 포함하거나 포함하지 않거나 둘 중 하나라고 강조했다.