정확도·정밀도와 오차의 전파
본문알루미늄 원기둥의 밀도를 구하려고 질량, 지름, 높이를 잰다. 실험실에는 0.01 g까지 읽는 전자저울, 0.05 mm까지 읽는 버니어 캘리퍼스, 0.5 mm 눈금의 자가 하나씩 있고 캘리퍼스는 한 사람만 쓸 수 있다. 지름은 10 mm로 짧고 높이는 50 mm로 길다. 긴 쪽이 더 중요해 보이지만, 밀도의 식에서 지름은 제곱으로 들어간다. 정밀한 도구를 어디에 써야 밀도가 가장 덜 틀릴까?
1.1.1정확도와 정밀도
같은 원기둥을 다섯 번 재어 값이 거의 같게 나오면 그 측정은 정밀하다. 다섯 값의 평균이 참값에 가까우면 그 측정은 정확하다. 둘은 다른 성질이다. 영점이 0.3 mm 어긋난 캘리퍼스는 매번 같은 값을 주어 정밀하지만 모든 값이 한쪽으로 치우쳐 정확하지 않다. 이렇게 한 방향으로 늘 생기는 오차를 계통 오차라 하고, 영점 조정이나 기준 물체와의 비교로 찾아 없앤다. 반대로 눈금을 읽을 때마다 조금씩 위아래로 흔들리는 오차를 우연 오차라 하며, 여러 번 재어 평균을 내면 줄어든다. 측정값을 적을 때는 눈금이 허락하는 범위를 함께 적어 \(d = 10.00 \pm 0.05\) mm처럼 쓴다.
측정값을 바로 쓰지 않고 식에 넣어 다른 양을 계산하면, 각 측정의 오차가 계산 결과로 옮겨 간다. 이것을 오차의 전파라 한다. 더하거나 빼는 계산에서는 절대 오차가 더해지고, 곱하거나 나누는 계산에서는 상대 오차가 더해진다. 그리고 어떤 양이 \(n\)제곱으로 들어가면 그 상대 오차는 \(n\)배가 된다.
\(\rho = \dfrac{4m}{\pi d^2 h}\)에서 각 측정의 상대 오차가 작으면, 밀도의 상대 오차는 많아야 \[\frac{\Delta \rho}{\rho} = \frac{\Delta m}{m} + 2\,\frac{\Delta d}{d} + \frac{\Delta h}{h}\]이다. 지름의 상대 오차에 붙은 2는 \(d\)가 제곱으로 들어갔기 때문이다.
그림 1에서 두 측정의 오차를 바꾸어 보자. 지름을 캘리퍼스로 ±0.05 mm, 높이를 자로 ±0.5 mm 재면 지름의 몫은 \(2 \times 0.05/10 = 1\)%, 높이의 몫은 \(0.5/50 = 1\)%로 같다. 질량의 몫 0.09%는 거의 보이지 않는다. 그런데 도구를 바꾸어 지름을 자로 재면 지름의 몫은 10%로 뛰고, 높이를 캘리퍼스로 재어 얻은 이득 0.9%로는 이를 메울 수 없다. 짧은 길이는 같은 눈금으로 재어도 상대 오차가 크고, 그 길이가 제곱으로 들어가면 두 배로 커진다. 그래서 정밀한 도구는 짧고 거듭제곱으로 들어가는 쪽에 써야 한다.1
1.1.2어느 측정이 결과를 좌우하는가
실험을 설계할 때는 측정을 시작하기 전에 각 양의 상대 오차를 어림하여 가장 큰 몫을 찾는다. 가장 큰 몫을 줄이는 데 시간과 좋은 도구를 쓰고, 이미 작은 몫은 더 줄여도 결과가 거의 나아지지 않는다. 그림 2는 실험실의 도구와 이 원기둥에서의 몫을 정리한 것이다.
1.1.3예제 풀이
원기둥을 재어 \(m = 10.60 \pm 0.01\) g, \(d = 10.00 \pm 0.05\) mm, \(h = 50.0 \pm 0.5\) mm를 얻었다. 밀도와 그 오차를 구하고, 알루미늄의 밀도 2.70 g/cm³와 비교하여라. 지름을 마이크로미터(±0.01 mm)로, 높이를 캘리퍼스로 다시 재면 오차는 얼마가 되는가?
단위를 cm로 맞추면 \(\rho = \dfrac{4 \times 10.60}{\pi \times 1.000^2 \times 5.00} = \dfrac{42.40}{15.71} \approx 2.699\) g/cm³이다. 상대 오차는 \(0.09 + 1.0 + 1.0 \approx 2.1\)%이므로 \(\Delta \rho \approx 0.06\) g/cm³이고, 결과는 \(\rho = 2.70 \pm 0.06\) g/cm³이다. 알루미늄의 값이 이 범위 안에 들어 있으니 측정이 알루미늄과 맞는다고 말할 수 있다. 오차를 함께 적지 않으면 2.699와 2.70의 차가 의미 있는지 판단할 수 없다.
지름을 마이크로미터로 재면 그 몫은 \(2 \times 0.01/10 = 0.2\)%, 높이를 캘리퍼스로 재면 \(0.05/50 = 0.1\)%이다. 질량의 몫까지 더해 상대 오차는 약 0.4%, \(\Delta \rho \approx 0.01\) g/cm³로 다섯 배쯤 좋아진다. 이때 가장 큰 몫은 다시 질량과 지름이 나누어 갖는다. 오차를 줄이는 일은 가장 큰 몫을 찾아 줄이고 다음으로 큰 몫을 다시 찾는 일의 되풀이이다.
아래 탐구 카드에서 원기둥의 각 길이를 여러 도구로 재어 보고, 어느 측정이 밀도의 오차를 좌우하는지 확인해 보자.
- 상대 오차를 그대로 더하는 것은 오차가 모두 같은 쪽으로 겹친 가장 나쁜 경우를 어림한 것이다. 우연 오차들이 서로 독립이면 제곱해 더한 뒤 제곱근을 취하는 방법이 더 실제에 가깝고, 이 경우 밀도의 상대 오차는 약 1.4%가 된다.
정밀도는 반복한 값이 얼마나 모이는지, 정확도는 그 값이 참값에 얼마나 가까운지를 말하며, 계통 오차는 기준과 비교해 없애고 우연 오차는 반복해 줄인다. 곱과 나눗셈으로 계산한 양의 상대 오차는 각 측정의 상대 오차를 더한 것이고, 거듭제곱으로 들어간 양은 그 지수만큼 몫이 커진다. 처음 질문의 원기둥에서는 짧고 제곱으로 들어가는 지름을 더 정밀한 캘리퍼스로 재야 밀도가 가장 덜 틀린다.