융합과학 탐구의 윤리

어느 병원이 흉부 사진을 보고 병을 찾아내는 인공지능을 들여왔다. 개발 회사는 이 인공지능이 실제 환자의 80%를 찾아내고, 건강한 사람의 90%를 건강하다고 판정한다고 밝혔다. 그리고 이 성능은 두 지역의 환자에게 똑같다고 했다. 그런데 병이 흔한 A 지역에서 '양성' 판정을 받은 사람은 대부분 실제 환자였지만, 병이 드문 B 지역에서는 절반 넘게 건강한 사람이었다. 같은 인공지능이 왜 이런 차이를 낼까? 이것은 공정한 것일까?

B 집단에서 실제 환자의 비율 (%)

3.3.1판정을 믿을 수 있는 정도

판정 도구의 성능은 두 가지로 말한다. 실제 환자를 양성으로 찾아내는 비율이 민감도이고, 건강한 사람을 음성으로 판정하는 비율이 특이도이다. 그런데 양성 판정을 받은 사람이 알고 싶은 것은 '내가 정말 환자일 확률'이다. 이 확률은 민감도와 특이도뿐 아니라, 그 집단에 환자가 얼마나 많은지에 따라 달라진다. 환자가 드문 집단에서는 건강한 사람이 워낙 많아서, 그 10%만 잘못 양성으로 나와도 실제 환자보다 많아질 수 있다.

그림 1에서 B 집단의 환자 비율을 바꾸어 보자. A 집단은 환자가 30%라서 양성 판정 가운데 실제 환자가 약 77%이다. B 집단의 환자가 10%이면 이 값은 약 47%로 떨어져, 양성 판정을 받은 사람의 절반 넘게 건강한 사람이다. B 지역 사람들은 불필요한 추가 검사와 걱정을 더 많이 겪는다. 그래서 민감도와 특이도를 같게 맞추면 양성 예측도가 달라지고, 양성 예측도를 같게 맞추면 민감도나 특이도가 달라진다.¹

3.3.2공정성의 여러 기준

공정함을 수로 나타내는 기준은 여러 가지이다. 실제 환자를 찾아내는 비율이 집단마다 같아야 한다는 기준이 있고, 양성 판정을 믿을 수 있는 정도가 같아야 한다는 기준이 있다. 그런데 집단마다 실제 비율이 다르면 이 두 기준을 동시에 완전히 맞출 수는 없다는 것이 수학적으로 밝혀졌다. 그래서 어떤 기준을 앞세울지는 계산만으로 정할 수 없고, 그 판정이 사람에게 어떤 영향을 주는지 따지는 윤리적 판단이 필요하다. 그리고 학습 자료에 어떤 집단이 적게 들어가면, 그 집단에서는 민감도 자체가 떨어지는 더 큰 문제가 생긴다.

3.3.3예제 풀이

B 지역에는 환자 100명과 건강한 사람 900명이 있다. 환자 가운데 \(100 \times 0.8 = 80\)명이 양성, 건강한 사람 가운데 \(900 \times 0.1 = 90\)명이 잘못 양성으로 나온다. 양성 판정은 모두 170명이고, 그 가운데 실제 환자는 \(80 \div 170 \approx 47\)%이다.

A 지역에서는 환자 300명 가운데 240명, 건강한 사람 700명 가운데 70명이 양성으로 나와 모두 310명이다. 실제 환자는 \(240 \div 310 \approx 77\)%이다. 즉 같은 도구로도 B 지역 사람은 양성 판정을 받았을 때 실제 환자일 확률이 훨씬 낮다. 그래서 인공지능을 쓰는 병원은 지역의 상황에 맞추어 판정 기준을 조정할지, 추가 검사를 어떻게 안내할지를 결정하고, 그 결정의 근거를 환자에게 설명해야 한다.

아래 탐구 카드에서 인공지능 판정의 공정성을 여러 기준으로 따져 보고, 융합과학 탐구에서 지켜야 할 윤리를 토론해 보자.

1. 2016년 미국에서 재범 가능성을 예측하는 프로그램을 두고 큰 논쟁이 있었다. 비판하는 쪽은 흑인 피고인이 잘못 고위험으로 판정되는 비율이 높다고 했고, 개발사는 고위험 판정이 맞는 비율은 인종마다 같다고 맞섰다. 두 주장은 모두 계산상 옳았다.