과학기술과 윤리

본문

본문

감염병이 퍼질 때 확진자의 이동 경로를 자세히 공개하면 접촉자를 빨리 찾을 수 있다. 하지만 공개된 정보로 누가 확진자인지 드러나 사생활이 침해되고 차별을 받을 수도 있다. 기술로 할 수 있는 일과 해도 되는 일 사이의 선은 누가, 어떻게 정해야 할까?

공개 범위

그림 1. 공개 범위를 넓힐수록 방역에 도움이 되지만, 개인이 드러날 위험도 함께 커진다. 어느 지점을 고를지는 과학만으로 정해지지 않는다(모식).

먼저 알아야 할 것감염병 진단, 빅데이터(이름을 지운 자료도 다시 개인을 찾아낼 수 있다는 것), 인공지능과 로봇.

3.4.1같은 기술, 다른 결과

과학기술은 그 자체로 좋거나 나쁘지 않다. 같은 유전자 분석 기술이 병의 원인을 찾아 치료에 쓰이기도 하고, 사람의 유전 정보를 허락 없이 모으는 데 쓰이기도 한다. 생성형 인공지능은 그림과 글을 쉽게 만들게 해 주지만, 다른 사람의 작품을 허락 없이 학습하거나 가짜 영상을 만드는 데에도 쓰인다. 즉 기술이 무엇을 할 수 있는지와, 그것으로 무엇을 해야 하는지는 다른 질문이다.

앞의 질문에 답하는 것이 과학이라면, 뒤의 질문에 답하는 것이 윤리이다. 과학기술과 윤리는 과학기술을 연구하고 쓰는 과정에서 지켜야 할 옳고 그름의 기준을 다룬다.

3.4.2판단에 쓰는 기준

과학기술을 쓸지 말지, 어디까지 쓸지 판단할 때는 몇 가지 기준을 함께 따진다. 먼저 그 기술이 사람과 사회에 주는 이익과 위험을 견주어 본다. 다음으로 영향을 받는 사람들이 충분히 알고 스스로 동의했는지 본다. 그리고 이익과 위험이 특정한 사람에게만 몰리지 않는지, 곧 공정한지를 본다.

정리 3.4.1 과학기술 윤리의 주요 원칙

사람의 생명과 존엄을 해치지 않는다. 연구 대상이나 정보의 주인에게 충분히 설명하고 자발적인 동의를 받는다. 개인 정보와 사생활을 보호한다. 이익과 부담을 공정하게 나눈다. 연구 과정과 결과를 정직하게 기록하고 알린다.

그림 1의 슬라이더로 공개 범위를 바꾸어 보자. 지역만 알리면 방역 효과는 작지만 개인이 드러날 위험도 작다. 방문한 가게와 시각까지 공개하면 방역 효과가 커지지만, 몇 가지 정보만 맞추어도 누구인지 알 수 있게 된다. 두 곡선은 함께 움직이므로, 어느 지점이 좋은지는 사회가 무엇을 더 중요하게 여기는지에 따라 정해진다.¹

그림 2. 과학기술을 어디까지 쓸지는 과학자 혼자가 아니라 시민, 정부, 기업이 함께 정한다.

3.4.3예제 풀이

예제 3.4.2

어느 도시의 인구가 10만 명이다. 확진자의 성별(2가지), 나이대(10살 단위 8가지), 사는 동(20개 동)을 공개하면, 같은 조건을 가진 사람은 평균 몇 명인가? 여기에 다니는 직장의 업종(10가지)까지 공개하면 어떻게 되는가? 이 결과가 정보 공개에 주는 뜻을 말하여라.

세 정보를 함께 공개하면 사람들은 \(2 \times 8 \times 20 = 320\)개의 무리로 나뉜다. 인구가 고르게 퍼져 있다고 하면 한 무리는 평균 \(\dfrac{100\,000}{320} \approx 313\)명이다. 313명 가운데 한 사람이므로 누구인지 바로 알기는 어렵다.

업종까지 더하면 무리는 \(320 \times 10 = 3200\)개가 되고, 한 무리는 평균 약 31명이다. 실제로는 인구가 고르지 않아 어떤 무리에는 몇 명만 있을 수 있다. 그러면 이웃이나 직장 동료가 확진자를 쉽게 짐작하게 된다.

정보 하나하나는 사소해 보여도, 여러 개가 겹치면 곱의 법칙으로 무리가 빠르게 작아져 개인이 드러난다. 그래서 공개 범위를 정할 때는 방역에 꼭 필요한 정보인지와 함께, 정보를 합쳤을 때 개인을 알아낼 수 있는지를 따져야 한다. 아래 탐구 카드에서 실제 사례를 두고 공개 범위를 정해 보고, 생성형 인공지능의 쓰임도 함께 토론해 보자.

우리나라 방역 당국은 2020년 확진자 이동 경로 공개 지침을 고쳐, 성별·나이·직장명 같은 개인을 알아볼 수 있는 정보는 공개하지 않고 방역에 필요한 장소와 시간만 공개하도록 했다.

마무리

과학기술은 할 수 있는 일을 넓히지만, 그 일을 해도 되는지는 이익과 위험, 동의, 공정성, 사생활 보호 같은 윤리 기준으로 따로 판단해야 한다. 이 판단은 과학자 혼자가 아니라 사회가 함께 내린다. 그래서 처음 질문의 이동 경로 공개는 방역에 필요한 만큼으로 한정하고, 정보를 합쳐도 개인이 드러나지 않도록 범위를 정해야 한다.

탐구 1

확진자의 이동 경로, 어디까지 공개해야 할까?

과학 관련 사회적 쟁점 · 이해관계자 평가표

각 칸에 그 방법이 그 사람에게 주는 이익(+)과 피해(−)를 −2 ~ +2로 매겨 보세요. 처음 값은 예시입니다.

판단 기준

점수는 사실이 아니라 판단이다. 같은 사실을 알아도 사람마다 다르게 매길 수 있고, 그 차이가 토론할 거리이다.

질문감염병이 퍼질 때 확진자가 어디에 다녀갔는지 알리면, 같은 곳에 있던 사람이 서둘러 검사를 받을 수 있다. 그런데 어디까지 공개해야 할까? 이 결정은 누가, 어떤 기준으로 내려야 할까?
복원휴대전화 위치, 카드 사용 기록, 폐쇄 회로 텔레비전 영상 같은 빅데이터를 쓰면 한 사람의 이동 경로를 몇 분 단위로 되짚을 수 있다. 즉 기술이 이 일을 가능하게 만들었다.
설명우리나라는 2015년 메르스 유행 뒤 법을 고쳐, 감염병이 유행할 때 확진자의 이동 경로 등을 공개할 수 있게 했다. 그런데 2020년 코로나19 초기에는 성별, 나이, 직장까지 알려지는 일이 있었고, 국가인권위원회가 사생활 침해를 우려하는 의견을 냈다. 그래서 방역 당국은 개인을 알아볼 수 있는 정보는 빼고 장소와 시간 중심으로 공개하도록 지침을 바꾸었다.
연결이런 문제를 과학 관련 사회적 쟁점이라고 한다. 과학 지식만으로 답이 정해지지 않고, 여러 사람의 이익과 권리, 가치가 부딪치기 때문이다. 그래서 따질 때는 먼저 누가 영향을 받는지 빠짐없이 적고, 각자에게 이익과 피해가 얼마인지 따진 뒤, 어떤 기준으로 결정할지를 드러내 놓고 정해야 한다.
적용세 판단 기준을 차례로 눌러 예시 평가에서 기준마다 답이 같은지 보자. 이제 작은 마을이라 장소만 공개해도 누구인지 드러난다고 생각하고, ‘확진자 · 장소·시간만’ 칸을 −2로 바꾸면 어느 기준의 답이 바뀌는지 확인해 보자. 친구와 같은 표를 채운 뒤 점수가 가장 크게 다른 칸을 찾아 이유를 이야기해 보는 것도 좋다.
판단이 표는 결론을 대신 내려 주는 계산기가 아니다. 점수는 판단이고, 어떤 기준을 쓸지도 판단이다. 다만 이렇게 나누어 보면 “나는 왜 이 결론에 이르렀는가”가 드러나서, 의견이 다른 사람과 어디서 갈렸는지 찾을 수 있다. 또 검사를 피하게 될 사람처럼 표에 없는 사람이나, 당국이 방문자에게 직접 연락하는 것처럼 표에 없는 방법을 떠올리는 것도 중요하다.

확인조건이 달라지면

주민이 수백 명뿐인 섬마을에서 첫 확진자가 나왔다. 방문한 가게와 시간만 공개해도 주민들은 누구인지 금방 알 수 있다. 가장 알맞은 판단은?

읽기 2

과학은 미래의 문제를 어디까지 해결할 수 있을까?

읽기 · 미래 사회 문제와 과학의 역할 · 논증하기

인구는 늘고 기후는 변하며 새로운 감염병이 나타난다. 그래서 "과학 기술이 해결해 줄 것"이라는 기대와 "과학 기술이 문제를 만들었다"는 비판이 함께 있다. 사례를 보며 과학의 역할과 한계를 따져 보자.

1과학이 큰 몫을 한 사례

문제	과학의 기여	남은 과제
식량	질소 비료(하버-보슈 공정)와 품종 개량으로 1960~2000년 곡물 생산이 2배 넘게 늘었다(녹색 혁명).	비료 유출에 따른 수질 오염, 물 부족, 생산은 충분해도 분배가 고르지 않아 생기는 굶주림
감염병	유전체 공개 뒤 1년 안에 코로나19 mRNA 백신 개발	나라 사이의 백신 격차, 백신에 대한 불신
오존층	프레온 가스가 오존을 파괴한다는 연구가 몬트리올 의정서(1987)로 이어져 오존층이 회복되는 중	대체 물질 일부가 강한 온실 기체
에너지	2010~2020년 태양광 발전 단가 약 90% 하락	간헐성, 저장, 송전망, 광물 자원

2과학만으로는 정할 수 없는 것

과학은 "온실 기체를 이만큼 줄이면 기온이 이만큼 덜 오른다"를 알려 줄 수 있다. 하지만 "누가 얼마나 줄여야 공정한가"는 가치와 합의의 문제이다. 오존층 회복도 과학적 근거와 함께 국제 협약, 기업의 대체 기술, 시민의 선택이 모두 맞물려서 가능했다. 즉 과학은 문제 해결에 필요하지만 충분하지는 않다.

3주장, 근거, 반론, 재반론으로 논증하기

논증은 먼저 무엇을 해야 하는지 주장을 세우는 데서 시작한다. 예를 들어 학교 급식에 대체 단백질 식품을 일주일에 한 번 넣자고 주장할 수 있다. 다음에는 그 주장을 뒷받침하는 과학적 근거를 댄다. 가축 사육에서 나오는 온실 기체 배출량이나 영양 성분 비교가 근거가 된다.

그런데 좋은 논증은 여기서 멈추지 않고 가능한 반론을 스스로 꺼낸다. 맛과 비용, 가공식품에 대한 우려, 축산 농가의 생계 같은 비판이 나올 수 있다. 마지막으로 이 반론에 어떻게 답할지, 그리고 무엇은 아직 모른다고 인정할지를 밝힌다.

판단"과학은 모든 것을 해결한다"(과학 만능주의)와 "과학은 믿을 수 없다"(과학 불신)는 둘 다 증거를 무시한 태도이다. 좋은 논증은 과학적 근거를 바탕으로 하되, 그 근거의 불확실성과 과학 밖의 고려 사항을 함께 밝힌다.

확인과학의 역할과 한계

오존층 회복 사례에서 알 수 있는 것으로 가장 알맞은 것은?

읽기 3

생성형 AI가 그린 그림은 누구의 것일까?

문장 몇 줄을 입력하면 AI가 그림, 글, 음악을 만들어 준다. AI는 인터넷의 수많은 작품을 학습해서 이 능력을 얻었다. 그렇다면 AI가 만든 그림의 권리는 누구에게 있고, 학습에 쓰인 작품의 작가들은 무엇을 받아야 할까?

1생성형 AI는 어떻게 만들까

생성형 AI는 엄청난 양의 글과 그림에서 패턴, 곧 어떤 단어 뒤에 어떤 단어가 오는지, 어떤 모양과 색이 함께 나오는지를 학습한다. 그리고 그 패턴에 맞는 새 결과를 확률적으로 만들어 낸다. 학습한 작품을 그대로 오려 붙이는 것은 아니지만, 특정 작가의 화풍을 흉내 내거나 학습 자료와 거의 같은 결과를 내기도 한다.

2이해관계자마다 다른 입장

관계자	주장	걱정
학습 데이터의 원작자	내 작품을 학습에 쓰려면 허락과 보상이 필요하다	내 화풍을 흉내 낸 그림이 내 일자리를 빼앗는다
AI 개발 기업	공개된 자료로 학습하는 것은 사람이 그림을 보고 배우는 것과 같다	모든 자료마다 허락을 받으면 개발이 불가능하다
AI 사용자	내가 쓴 명령어와 고른 결과에 창작성이 있다	결과물을 팔다가 저작권 분쟁에 휘말릴 수 있다
사회 전체	누구나 쉽게 창작할 수 있게 된다	가짜 사진·영상(딥페이크), 잘못된 정보의 확산

우리나라와 미국 등은 현재 사람의 창작적 기여 없이 AI가 만든 결과물은 저작물로 등록해 주지 않는 쪽이다. 학습 데이터 사용에 대해서는 나라마다 법과 판결이 정리되는 중이다.

3규제의 원칙과 기술의 한계

규제는 대체로 세 방향에서 논의된다. 첫째는 투명성으로, AI가 만든 것임을 표시하고 어떤 자료로 학습했는지 밝히게 한다. 둘째는 위험에 따른 규제로, 유럽 연합의 AI법처럼 채용이나 의료같이 위험이 큰 분야일수록 엄격하게 관리한다. 셋째는 기술의 한계를 아는 것이다. 생성형 AI는 그럴듯하지만 사실이 아닌 내용을 만들어 낼 수 있고(환각), 학습 자료에 담긴 편견을 그대로 따라 할 수 있다.

의사 결정 과제 우리 학교 미술 대회에 AI 활용 작품을 낼 수 있게 할지 정하는 규칙을 만들어 보자. 어디까지를 학생의 창작으로 볼지, AI 사용을 어떻게 표시할지, 다른 작가의 화풍을 흉내 내도록 명령하는 것을 허용할지를 정해야 한다. 원작자, 참가 학생, 심사 위원 세 관점에서 각각 장단점을 적고 합의안을 골라 보자.

확인생성형 AI의 한계

생성형 AI가 쓴 보고서에 존재하지 않는 논문이 출처로 적혀 있었다. 이 현상에 대한 설명으로 알맞은 것은?