통계적 확률과 수학적 확률

바닥에 간격 5 cm로 나란한 선을 긋고, 길이 5 cm인 바늘을 아무렇게나 1000번 떨어뜨렸다. 바늘이 선에 걸친 것은 637번이었다. 바늘이 선에 걸칠 확률은 \(2/\pi\)라고 알려져 있으니, 637/1000을 \(2/\pi\)와 같다고 놓으면 \(\pi \approx 3.14\)가 나온다. 한편 압정을 500번 던졌더니 바늘 끝이 위로 향한 것이 310번이었는데, 압정에 대해서는 이 확률을 계산할 식이 없다. 실험으로 얻은 확률과 계산으로 얻은 확률은 어떤 관계일까?

3.3.1두 가지 확률

주사위처럼 모든 결과가 일어날 가능성이 같다고 볼 수 있으면, 사건이 일어나는 경우의 수를 전체 경우의 수로 나누어 확률을 구한다. 이것이 수학적 확률이다. 경우가 끝없이 많으면 경우의 수 대신 길이나 넓이의 비를 쓴다. 그러나 압정처럼 결과마다 가능성이 같다고 볼 근거가 없으면 계산할 수 없다. 그때는 같은 시행을 여러 번 되풀이해 사건이 일어난 상대도수를 구하고, 시행 횟수를 늘릴 때 상대도수가 가까워지는 값을 확률로 삼는다. 이것이 통계적 확률이다.

큰수의 법칙은 수학적 확률과 통계적 확률을 잇는다. 수학적 확률이 \(p\)인 사건은 시행을 많이 하면 상대도수가 \(p\)에 가까워질 가능성이 매우 크다. 그래서 바늘 실험에서는 상대도수로 거꾸로 \(\pi\)를 어림할 수 있고, 압정처럼 계산할 수 없는 확률도 충분히 많이 던지면 믿을 만하게 정할 수 있다. 다만 상대도수는 시행할 때마다 조금씩 달라지므로, 얼마나 정확한지도 함께 따져야 한다.¹

3.3.2바늘이 선에 걸칠 확률

바늘의 중점에서 가장 가까운 선까지의 거리를 \(y\), 바늘이 선과 이루는 각을 \(\theta\)라 하자. 바늘의 길이와 선의 간격이 모두 \(d\)이면 \(y\)는 0에서 \(d/2\) 사이, \(\theta\)는 0에서 \(\pi\) 사이에 고르게 퍼져 있다. 바늘이 선에 걸치려면 \(y \le \tfrac d2\sin\theta\)여야 한다. 그래서 확률은 가로 \(\pi\), 세로 \(d/2\)인 직사각형 가운데 곡선 \(y = \tfrac d2\sin\theta\) 아래의 넓이가 차지하는 비율이다. 곡선 아래 넓이는 \(\int_0^\pi\tfrac d2\sin\theta\,d\theta = d\)이므로, 확률은 \(d/(\pi d/2) = 2/\pi\)이다.

3.3.3예제 풀이

\(637/1000 = 2/\pi\)로 놓으면 \(\pi \approx 2000/637 \approx 3.140\)이다. 상대도수의 표준편차는 \(\sqrt{0.6366\times0.3634/1000} \approx 0.015\)이다. 상대도수가 \(0.637 \pm 0.015\) 정도로 흔들린다면 \(\pi\)의 추정값은 \(2/0.652 \approx 3.07\)에서 \(2/0.622 \approx 3.22\)까지 흔들린다.

그래서 3.140이 나온 것은 운이 좋았던 셈이고, 1000번으로는 \(\pi\)를 소수 첫째 자리 정도까지만 믿을 수 있다. 소수 둘째 자리까지 믿으려면 흔들림을 열 배쯤 줄여야 하므로 백 배 많은 약 10만 번을 던져야 한다. 압정은 \(310/500 = 0.62\)를 통계적 확률로 삼고, 표준편차 약 0.022를 함께 적는다. 즉 수학적 확률은 같은 가능성을 가정해 계산하고, 통계적 확률은 시행을 되풀이해 얻으며, 큰수의 법칙이 두 값을 이어 주지만 그 정확도는 시행 횟수의 제곱근으로만 좋아진다.

아래 탐구 카드에서 바늘을 떨어뜨려 원주율을 추정하고, 압정을 던져 통계적 확률이 어떻게 안정되는지 확인해 보자.

1. 이 문제는 1777년 프랑스의 박물학자 뷔퐁이 처음 풀었다. 1901년 이탈리아의 라차리니는 바늘을 3408번 던져 \(\pi \approx 3.1415929\)를 얻었다고 발표했는데, 이 값은 너무 정확해서 원하는 값이 나왔을 때 멈춘 것이라는 의심을 받는다.