유효숫자

유효숫자는 측정값이 얼마나 정밀한지를 보여 줍니다. 확실하게 알 수 있는 숫자들과, 측정에서 추정한 마지막 한 자리까지 포함합니다.

그래서 $12.3\ \mathrm{cm}$와 $12.30\ \mathrm{cm}$는 소수값으로는 같아도 같은 정밀도를 뜻하지 않습니다. 두 번째 수는 더 작은 자리값까지 정밀하게 측정되었음을 나타냅니다.

유효숫자의 의미

유효숫자는 숫자의 크기에 관한 것이 아닙니다. 얼마나 주의 깊게 측정되었거나 보고되었는지를 나타냅니다.

예를 들면:

• $45.7$은 유효숫자가 $3$개입니다.
• $0.0045$는 유효숫자가 $2$개입니다.
• $1002$는 0이 0이 아닌 숫자 사이에 있으므로 유효숫자가 $4$개입니다.
• $3.400$은 소수점 뒤의 끝자리 0이 측정 정밀도를 나타내므로 유효숫자가 $4$개입니다.

대부분의 실수는 0 때문에 생깁니다. 0은 측정된 정밀도를 보여 줄 때만 유효숫자로 셉니다.

유효숫자 세는 법

다음 규칙은 교실에서 다루는 대부분의 경우에 적용됩니다:

1. 0이 아닌 숫자는 항상 유효숫자입니다.
2. 0이 아닌 숫자 사이의 0은 유효숫자입니다.
3. 앞의 0은 유효숫자가 아닙니다.
4. 소수점 오른쪽 끝의 0은 보통 유효숫자입니다.
5. 정수 끝의 0은 표기법이 정밀도를 분명히 보여 주지 않으면 애매할 수 있습니다.

마지막 규칙은 중요합니다. $1500$이라는 수만으로는 마지막 두 개의 0이 실제로 측정된 것인지, 아니면 자리만 채우는 것인지 항상 알 수 없습니다. 과학적 표기법을 쓰면 이런 모호함이 사라집니다:

$$1.5 \times 10^3$$

은 유효숫자가 $2$개이고,

$$1.500 \times 10^3$$

은 유효숫자가 $4$개입니다.

예제: 유효숫자를 적용한 곱셈

다음을 곱한다고 해 봅시다.

$$4.56 \times 1.4$$

먼저 그대로 곱합니다:

$$4.56 \times 1.4 = 6.384$$

이제 최종 답에 유효숫자가 몇 개여야 하는지 판단합니다:

• $4.56$은 유효숫자가 $3$개입니다.
• $1.4$는 유효숫자가 $2$개입니다.

곱셈에서는 유효숫자가 가장 적은 인수에 맞춰 결과를 써야 합니다. 여기서는 유효숫자 $2$개여야 합니다.

따라서

$$6.384 \approx 6.4$$

보고하는 결과는

$$6.4$$

입니다.

이것이 유효숫자의 핵심입니다. 처음 사용한 측정값보다 더 높은 정밀도를 답이 주장해서는 안 됩니다.

덧셈과 뺄셈에 다른 규칙을 쓰는 이유

덧셈과 뺄셈에서는 기준이 유효숫자의 총개수가 아니라 소수 자릿수입니다.

예를 들면:

$$12.11 + 0.3 = 12.41$$

하지만 $0.3$은 소수 첫째 자리까지만 정확하므로, 최종 답도 소수 첫째 자리까지 써야 합니다:

$$12.41 \approx 12.4$$

여기서 곱셈 규칙을 적용하면 잘못 반올림할 수 있습니다. 어떤 연산인지에 따라 반올림 규칙이 달라집니다.

유효숫자에서 자주 하는 실수

앞의 0 세기

$0.0028$에서 0들은 소수점 위치만 옮겨 줄 뿐입니다. 유효한 숫자는 $2$와 $8$뿐이므로 유효숫자는 $2$개입니다.

모든 끝자리 0을 똑같이 취급하기

$3.40$에서는 0이 소수 첫째 자리보다 더 정밀하게 측정되었음을 보여 주므로 유효합니다. 반면 $3400$에서는 문맥이나 표기법이 분명하지 않으면 끝의 0들이 유효할 수도 있고 아닐 수도 있습니다.

너무 일찍 반올림하기

긴 계산 중간에 반올림하면 작은 반올림 오차가 쌓일 수 있습니다. 보통은 끝까지 여분의 자릿수를 유지한 뒤 마지막에 한 번만 반올림하는 것이 좋습니다.

모든 연산에 하나의 규칙만 적용하기

곱셈과 나눗셈은 유효숫자가 가장 적은 값에 맞춥니다. 덧셈과 뺄셈은 가장 덜 정확한 소수 자릿수에 맞춥니다. 이 두 규칙을 섞어 쓰는 것이 가장 흔한 실수 중 하나입니다.

유효숫자를 사용하는 경우

유효숫자는 숫자가 정확한 개수가 아니라 측정에서 나온 값일 때 사용됩니다.

대표적인 경우는 다음과 같습니다:

• 화학과 물리의 실험 데이터
• 측정한 길이, 질량, 시간, 온도
• 보고되는 정밀도가 중요한 공학 계산
• 특히 정밀도를 분명히 보여 주어야 하는 과학적 표기법

상자 안의 물체가 $12$개인 경우나 정의된 환산계수처럼 수가 정확한 값이라면, 그것은 최종 답의 정밀도를 제한하지 않습니다. 이 점이 중요합니다. 유효숫자 규칙은 정확한 개수가 아니라 측정값에 적용됩니다.

답을 빠르게 확인하는 방법

계산을 마친 뒤 다음 두 가지를 물어보세요:

1. 입력값 중 가장 덜 정확한 것은 무엇인가?
2. 내 최종 답이 그 값이 허용하는 것보다 더 높은 정밀도를 보여 주고 있는가?

두 번째 질문의 답이 예라면, 다시 반올림해야 합니다.

비슷한 문제에 도전해 보기

먼저 $0.04050$의 유효숫자가 몇 개인지 세어 보고, 다음 곱에서 몇 개의 유효숫자를 남겨야 하는지 판단해 보세요.

$$2.31 \times 0.04050$$

다음 단계로 연습하고 싶다면, 과학적 표기법을 사용한 비슷한 문제를 직접 만들어 보세요. 과학적 표기법에서는 유효숫자의 개수를 더 쉽게 알아볼 수 있는 경우가 많습니다.