확률의 여러 가지 정리

어떤 병은 사람들 가운데 1%가 걸려 있다. 이 병의 검사는 병에 걸린 사람의 99%를 양성으로, 걸리지 않은 사람의 99%를 음성으로 바르게 가려낸다. 아무 증상 없는 사람이 이 검사를 받았는데 양성이 나왔다. 검사가 99% 정확하니 병에 걸렸을 확률도 99%라고 생각하기 쉽다. 그런데 실제로 계산해 보면 그 확률은 50%밖에 되지 않는다. 무엇을 빠뜨렸기에 이렇게 큰 차이가 날까?

3.4.1조건이 바뀌면 확률도 바뀐다

병에 걸린 사건을 \(D\), 양성이 나온 사건을 \(T\)라 하자. 검사의 정확도 99%는 \(P(T \mid D)\), 곧 병에 걸렸다는 조건에서 양성이 나올 확률이다. 그런데 궁금한 것은 \(P(D \mid T)\), 곧 양성이 나왔다는 조건에서 병에 걸렸을 확률이다. 두 조건부확률은 조건과 사건이 뒤바뀐 것이어서 일반적으로 다르다. 두 값을 잇는 다리는 곱셈정리이다. \(P(D \cap T) = P(D)P(T \mid D) = P(T)P(D \mid T)\)이므로, \(P(T)\)를 알면 하나에서 다른 하나를 구할 수 있다.

베이즈 정리의 분모에는 걸린 사람이 양성일 몫과 걸리지 않은 사람이 잘못 양성일 몫이 함께 들어 있다. 병이 드물면 \(P(D)\)가 작아 첫째 몫이 작고, 걸리지 않은 사람이 많아 오류가 1%라도 둘째 몫이 첫째 몫과 비슷해진다. 그래서 검사가 정확해도 드문 병에서는 양성 결과의 상당수가 잘못 나온 것이다. 처음 질문에서 빠뜨린 것은 검사하기 전에 병에 걸려 있을 확률 1%이다.¹

3.4.2문을 바꿀까, 동전은 기억할까

세 문 가운데 하나 뒤에만 상품이 있는 게임에서, 하나를 고르면 상품 위치를 아는 사회자가 남은 두 문 가운데 빈 문 하나를 열어 보여 준다. 이때 고른 문을 바꾸면 이길 확률은 \(2/3\)이다. 처음 고른 문이 맞을 확률은 \(1/3\)이고, 사회자가 빈 문을 연다고 이 확률이 바뀌지는 않으므로 나머지 \(2/3\)가 남은 문에 몰리기 때문이다. 반면 동전 던지기는 앞의 결과와 독립이어서, 앞면이 다섯 번 연속 나왔어도 다음에 뒷면이 나올 확률은 그대로 \(1/2\)이다. 조건이 실제로 정보를 주는지, 아니면 독립인지를 가려야 한다.

3.4.3예제 풀이

\(P(D \mid T) = \dfrac{0.01\times0.99}{0.01\times0.99 + 0.99\times0.01} = \dfrac{0.0099}{0.0198} = 0.5\)이다. 그림 1의 표에서 양성 198명 가운데 99명인 것과 같다.

두 번째 검사에서는 첫 검사로 바뀐 확률 50%가 새로운 사전 확률이 된다. \(P(D \mid T_1T_2) = \dfrac{0.5\times0.99}{0.5\times0.99 + 0.5\times0.01} = \dfrac{0.495}{0.5} = 0.99\)이다. 그래서 두 번 연속 양성이면 걸렸을 확률이 99%로 올라간다. 실제 병원에서도 선별 검사에서 양성이 나오면 다른 검사로 다시 확인하는 것이 이 때문이다. 즉 조건부확률은 조건과 사건을 바꾸면 값이 달라지며, 베이즈 정리는 사전 확률과 검사의 정확도를 함께 넣어 결과를 본 뒤의 확률을 계산하게 해 준다.

아래 탐구 카드에서 넓이 그림으로 베이즈 정리를 확인하고, 몬티 홀 게임과 동전 던지기에서 조건이 확률을 바꾸는지 실험해 보자.

1. 이 정리는 18세기 영국의 목사 베이즈가 남긴 원고에서 나왔고, 그가 죽은 뒤 1763년에 친구 프라이스가 발표했다. 오늘날 스팸 메일 거르기, 의료 진단, 인공지능의 추론에도 같은 계산이 쓰인다.