측정과 어림
본문같은 연필의 길이를 다섯 번 재었더니 14.2 cm, 14.3 cm, 14.1 cm, 14.3 cm, 14.2 cm가 나왔다. 연필의 '진짜' 길이는 무엇이고, 이 측정을 얼마나 믿을 수 있을까? 계산기가 보여 주는 14.22라는 평균값을 그대로 적어도 될까?
1.3.1오차는 왜 생길까
측정값과 참값의 차이를 오차라 한다. 연필을 잴 때 눈금을 비스듬히 읽거나, 자를 대는 위치가 조금씩 달라지면 값이 위아래로 흩어진다. 이렇게 매번 크기와 방향이 달라지는 오차를 우연 오차라 한다. 우연 오차는 여러 번 재어 평균을 내면 서로 상쇄되어 줄어든다.
그런데 자의 끝이 닳아 0 눈금이 1 mm 안쪽에 있다면 어떨까? 이때는 몇 번을 재든 값이 늘 1 mm 크게 나온다. 이렇게 한쪽으로 치우치는 오차를 계통 오차라 한다. 계통 오차는 평균을 내도 사라지지 않으므로, 기구를 고치거나 다른 방법으로 비교해서 찾아야 한다.
그림 1의 슬라이더로 측정 횟수를 늘려 보자. 점들의 평균이 점점 한 값에 모인다. 그런데 계통 오차를 넣으면 평균이 모이는 자리 자체가 참값에서 옮겨 간다. 즉 많이 잴수록 정밀해지지만, 그것만으로 정확해지지는 않는다.1
1.3.2믿을 수 있는 자릿수
눈금이 1 mm인 자로 재면 mm 자리까지는 눈금으로 읽고, 그 아래 한 자리는 눈대중으로 어림한다. 그래서 14.2 cm라는 값의 마지막 자리 2는 조금 불확실하지만 의미가 있다. 측정값에서 이렇게 의미 있는 숫자를 유효 숫자라 하고, 14.2 cm는 유효 숫자가 세 개이다.
0이 아닌 숫자는 모두 유효 숫자이다. 0이 아닌 숫자 사이의 0도 유효 숫자이다. 소수에서 처음 나오는 0이 아닌 숫자 앞의 0은 자리를 나타낼 뿐 유효 숫자가 아니다(0.0052는 두 개). 곱셈과 나눗셈의 결과는 유효 숫자가 가장 적은 값에 맞추고, 덧셈과 뺄셈의 결과는 소수 자리가 가장 적은 값에 맞춘다.
계산기가 보여 주는 숫자를 모두 적으면 측정이 실제보다 정밀한 것처럼 보인다. 가령 가로 4.2 cm, 세로 3.15 cm인 카드의 넓이를 계산기로 구하면 13.23이 나오지만, 가로가 유효 숫자 두 개뿐이므로 넓이도 두 자리로 맞춘 13 \(\text{cm}^2\)이 정직한 값이다.
1.3.3어림으로 크기 가늠하기
정확한 측정이 어려울 때는 알고 있는 값으로 대략의 크기를 어림한다. 한 사람이 하루에 쓰는 물, 학교 운동장의 모래알 수처럼 바로 잴 수 없는 양도 단계별로 어림하면 몇 배 범위 안에서 맞출 수 있다. 이런 방법을 페르미 추정이라 한다.
1.3.4예제 풀이
처음 질문의 다섯 측정값으로 연필 길이를 나타내어라. 또 이 연필 15자루를 일렬로 늘어놓은 길이를 유효 숫자에 맞게 구하여라.
다섯 값의 평균은 \(\dfrac{14.2 + 14.3 + 14.1 + 14.3 + 14.2}{5} = \dfrac{71.1}{5} = 14.22\)이다. 그런데 하나하나의 측정이 0.1 cm 자리까지만 믿을 수 있으므로 평균도 그 자리에 맞추어 14.2 cm로 적는다. 측정값이 14.1에서 14.3 사이에 흩어졌으니, 연필 길이는 약 \(14.2 \pm 0.1\) cm라고 쓰는 것이 측정을 정직하게 보여 준다.
15자루를 늘어놓으면 \(14.2 \times 15 = 213\) cm이다. 15는 센 수라 오차가 없으므로 유효 숫자를 줄이지 않고, 측정값 14.2의 세 자리에 맞춘다. 따라서 약 213 cm이다.
값을 어디까지 적느냐는 단순한 습관이 아니라, 그 값을 얼마나 믿을 수 있는지를 남에게 알리는 약속이다. 아래 탐구 카드에서 측정 횟수와 오차의 종류를 바꾸며 평균이 어떻게 움직이는지 직접 확인해 보자.
- 우연 오차만 있으면 평균의 흩어짐은 측정 횟수의 제곱근에 반비례해 줄어든다. 4배 많이 재면 평균의 흩어짐이 절반이 된다.
측정에는 매번 흩어지는 우연 오차와 한쪽으로 치우치는 계통 오차가 있고, 평균을 내면 우연 오차만 줄어든다. 측정값은 믿을 수 있는 자리, 곧 유효 숫자까지만 적는다. 그래서 처음 질문의 연필은 평균 14.22를 그대로 쓰지 않고 \(14.2 \pm 0.1\) cm로 나타내는 것이 측정의 신뢰도를 정직하게 전한다.