평균·표준편차로 가설 평가

한 학급에서 A 모둠은 원래 방법으로, B 모둠은 새로운 복습 방법으로 공부한 뒤 같은 시험을 보았다. A 모둠의 평균은 50점, B 모둠의 평균은 53점이었다. 새 복습 방법을 고안한 학생은 효과가 있다고 기뻐했다. 그런데 같은 방법으로 공부해도 두 모둠의 평균은 조금씩 다르게 나오기 마련이다. 3점의 차이가 우연인지 진짜 효과인지 어떻게 가릴 수 있을까? 모둠의 인원과 점수의 흩어짐은 판단에 어떤 영향을 줄까?

모둠의 인원

평균 차이 (점)

2.5.1흩어짐과 평균의 흔들림

한 모둠 안에서도 학생마다 점수가 다르다. 점수가 평균에서 얼마나 흩어져 있는지를 나타내는 값이 표준 편차이다. 그런데 모둠의 평균도 누가 그 모둠에 들어갔느냐에 따라 흔들린다. 인원이 적으면 잘하는 학생 한두 명이 평균을 크게 끌어올리지만, 인원이 많으면 그런 영향이 서로 상쇄된다. 그래서 평균의 흔들림은 인원이 늘수록 줄어든다. 이 흔들림의 크기를 표준 오차라 한다.

그림 1에서 인원과 평균 차이를 바꾸어 보자. 모둠마다 10명이면 차이의 표준 오차는 \(6 \times \sqrt{0.2} \approx 2.7\)점이라, 3점의 차이는 \(t \approx 1.1\)로 2에 못 미친다. 같은 3점 차이도 모둠마다 40명이면 표준 오차가 약 1.3점으로 줄어 \(t \approx 2.2\)가 되어 분명한 차이가 된다. 즉 평균 차이 하나만으로는 판단할 수 없고, 흩어짐과 인원을 함께 보아야 한다.¹

2.5.2가설을 평가하는 순서

과학자는 먼저 '새 방법은 효과가 없다'는 가설을 세우고, 그 가설이 맞을 때 지금의 자료가 얼마나 드문지를 따진다. 효과가 없어도 3점 정도의 차이가 자주 생긴다면, 효과가 있다고 말할 근거가 약하다. 반대로 그런 차이가 거의 생기지 않는다면 '효과가 없다'는 가설을 버린다. 그리고 차이가 분명해도 그 크기가 실제로 의미 있는지를 따로 따진다. 100점 만점에 0.5점의 차이는 수천 명을 조사하면 분명해지지만, 공부법을 바꿀 만한 차이는 아닐 수 있다.

2.5.3예제 풀이

25명일 때 차이의 표준 오차는 \(6 \times \sqrt{2/25} = 6 \times 0.283 \approx 1.70\)점이다. 따라서 \(t = 4 \div 1.70 \approx 2.4\)로 2보다 크므로, 4점의 차이는 우연만으로 생기기 어렵다.

9명일 때는 표준 오차가 \(6 \times \sqrt{2/9} \approx 2.83\)점이라 \(t = 4 \div 2.83 \approx 1.4\)이다. 같은 4점 차이라도 우연일 가능성을 배제할 수 없다. 그리고 4점은 표준 편차 6점의 3분의 2 정도로, 학생 한 명 한 명의 점수 차이에 비해 작지 않은 크기이다. 그래서 인원을 늘려 다시 실험해 볼 가치가 있다. 이 계산은 실험을 하기 전에 필요한 인원을 정하는 데도 쓰인다.

아래 탐구 카드에서 두 모둠의 자료로 평균과 표준 편차를 구해 보고, 그 차이로 가설을 평가해 보자.

1. 이 방법을 처음 만든 사람은 맥주 회사 기네스에서 일하던 윌리엄 고셋이다. 적은 수의 보리 표본으로 품질을 판단해야 했던 그는 회사 규정 때문에 '스튜던트'라는 필명으로 1908년 논문을 발표했다.