화학 계산에서의 유효숫자

측정값과 정확한 수

모든 기구에는 한계가 있으므로 측정값에는 불확실성이 있습니다. 0.1 mL 간격으로 눈금이 새겨진 뷰렛을 읽을 때는 확실한 눈금까지 기록한 다음 눈금 사이에서 한 자리를 더 어림해서 읽습니다. 따라서 18.36 mL 같은 읽음값은 확실한 세 자리와 어림한 한 자리, 곧 네 개의 유효숫자를 가집니다. 18.360 mL라고 쓰면 뷰렛이 제공할 수 없는 정밀도를 주장하는 셈입니다.

정확한 수에는 측정 불확실성이 없습니다. 이런 수는 세어서 얻은 값(시험관 꽂이의 시험관 12개), 정의에서 나온 값(1인치는 정확히 2.54 cm이고 1 L는 정확히 1000 mL입니다), 그리고 화학식과 반응식의 계수와 첨자에서 나옵니다. 정확한 수는 유효숫자가 무한하다고 보므로, 계산 결과의 정밀도를 제한하지 않습니다.

까다로운 0을 포함해 자릿수 세기

0이 아닌 숫자는 항상 유효합니다. 0은 측정된 정보를 나타내는지 소수점의 위치만 표시하는지에 따라 유효하기도 하고 그렇지 않기도 합니다. 아래 규칙은 일반화학에서 만나게 될 모든 경우를 다룹니다.

소수점이 없는 정수 끝의 0은 정말로 모호한 유일한 경우입니다. 1200 g으로 쓴 질량은 유효숫자가 두 개, 세 개 또는 네 개일 수 있습니다. 과학적 표기법을 쓰면 모호함이 사라집니다. 1.2 × 10³ g은 두 개, 1.20 × 10³ g은 세 개, 1.200 × 10³ g은 네 개입니다.

• 0이 아닌 숫자 사이에 있는 0은 유효합니다. 30.506 g은 다섯 개입니다.
• 맨 앞의 0은 절대 유효하지 않습니다. 소수점의 위치만 나타냅니다. 0.004070 m은 네 개(4, 0, 7, 0)입니다.
• 소수점 오른쪽 끝의 0은 유효합니다. 2.500 mL는 네 개입니다.
• 소수점이 없는 정수 끝의 0은 모호하므로, 의도를 나타내려면 과학적 표기법을 쓰십시오.

덧셈과 뺄셈: 소수 자릿수를 맞추기

양을 더하거나 뺄 때 중요한 불확실성은 유효숫자의 개수가 아니라 마지막 소수 자리의 절대 불확실성입니다. 결과는 소수 자릿수가 가장 적은 측정값과 같은 소수 자릿수로 반올림합니다.

풀이 예제 1. 서로 다른 저울로 단 고체 세 덩어리, 12.6 g, 0.237 g, 105.42 g을 합칩니다. 계산기에는 118.257 g이 표시됩니다. 첫 번째 질량은 소수 첫째 자리까지만 알려져 있으므로 합도 소수 첫째 자리까지만 알 수 있어 118.3 g이 됩니다. 입력값 하나는 유효숫자가 세 개뿐인데도 답은 네 개라는 점에 주목하십시오. 덧셈에서 결과를 제한하는 것은 자릿수의 개수가 아닙니다.

뺄셈은 유효숫자를 없앨 수 있습니다. 액체가 든 플라스크의 무게를 윗접시저울로 달았더니 58.36 g이었고, 빈 플라스크의 무게를 분석저울로 달았더니 57.912 g이었다고 합시다. 계산기에서 차는 0.448 g이지만 첫 번째 질량은 소수 둘째 자리까지만 알려져 있으므로 액체의 질량은 0.45 g입니다. 유효숫자가 네 개와 다섯 개였던 입력값에서 두 개만 남습니다. 큰 두 수의 작은 차이가 중요할 때는 두 질량을 모두 더 정밀한 저울로 다십시오.

곱셈과 나눗셈: 유효숫자 개수 세기

곱과 몫에서는 상대 불확실성이 결과에 이어집니다. 결과는 유효숫자가 가장 적은 입력값과 같은 개수의 유효숫자로 반올림합니다.

풀이 예제 2. 직육면체 블록의 치수가 4.20 cm, 2.15 cm, 1.8 cm입니다. 계산기에서 부피는 4.20 cm × 2.15 cm × 1.8 cm = 16.254 cm³입니다. 높이의 유효숫자가 두 개뿐이므로 부피는 16 cm³로 보고합니다. 예를 들어 캘리퍼스로 높이를 1.80 cm처럼 더 정확히 재는 것만이 세 번째 자리를 정당화할 수 있는 유일한 방법입니다.

로그에는 pH를 다룰 때 나타나는 관련 규칙이 있습니다. 로그값의 소수 자릿수는 원래 값의 유효숫자 개수와 같습니다. 수소 이온 농도 3.4 × 10⁻⁴ mol/L는 유효숫자가 두 개이므로 pH는 소수 둘째 자리까지 3.47로 보고합니다.

여러 단계의 계산에서는 마지막에 한 번만 반올림하기

여러 단계로 이루어진 계산에서는 모든 중간값에 한두 자리 이상의 여분의 숫자(보호 자릿수)를 남겨 두고 최종 답만 반올림합니다. 각 단계에서 유효숫자가 몇 개까지 정당화되는지는 따라가되, 끝까지 숫자를 버리지 마십시오. 단계마다 반올림하면 그때마다 작은 오차가 더해지고, 그 오차들이 마지막으로 보고하는 숫자를 바꿀 수 있습니다.

풀이 예제 3. 염화 나트륨 1.37 g을 물에 녹여 부피 플라스크에서 정확히 50.00 mL로 묽힙니다. 소수 둘째 자리로 반올림한 IUPAC 표준 원자량(Na 22.99, Cl 35.45)을 쓰면 NaCl의 몰 질량은 58.44 g/mol입니다. 물질의 양은 1.37 g ÷ 58.44 g/mol = 0.023443 mol이며, 반올림하지 않고 둡니다. 부피는 0.05000 L이므로 농도는 0.023443 mol ÷ 0.05000 L = 0.46886 mol/L이고, 질량의 유효숫자가 세 개이므로 0.469 mol/L로 반올림합니다.

물질의 양을 먼저 0.0234 mol로 반올림했다면 0.0234 mol ÷ 0.05000 L = 0.468 mol/L가 됩니다. 차이는 작지만, 이는 측정이 아니라 계산 과정에서 생긴 실제 오차이며, 계산 사슬이 길어지면 커질 수 있습니다.

정확히 절반인 숫자를 올릴 때와 짝수로 맞출 때

버리는 첫 숫자가 5보다 작으면 남기는 숫자를 그대로 두고, 5보다 크거나 5 뒤에 0이 아닌 숫자가 이어지면 올림합니다. 따라서 유효숫자 세 개로 0.064371은 0.0644로, 7.2849는 7.28로 반올림됩니다.

논란이 있는 경우는 버리는 숫자가 정확히 5이고 뒤에 아무것도 없을 때뿐입니다. OpenStax Chemistry 2e는 남는 숫자가 짝수가 되도록 반올림하며(6.125는 6.12가, 6.135는 6.14가 됩니다), 이렇게 하면 여러 번 반올림할 때 생기는 미세한 위쪽 치우침을 피할 수 있습니다. 많은 교수자는 단순히 5를 올립니다. 수업에서 어떤 방식을 쓰는지 확인하고 일관되게 적용하십시오. 이 방식은 이 한 가지 경우에만 영향을 줍니다.

내 풀이에서 찾아볼 유효숫자 오류

유효숫자 오류는 대부분 몇 가지 예측 가능한 실수에서 나옵니다. 답에 상자를 치기 전에 입력값을 다시 읽고, 어느 값이 어떤 규칙으로 결과를 제한하는지 따져 보십시오.

간단한 습관 하나로 이를 일상적인 절차로 만들 수 있습니다. 답마다 옆에 결과를 제한한 입력값과 적용한 규칙(소수 자릿수 또는 자릿수 개수)을 적어 두는 것입니다. 답에 그 입력값이 정당화하는 것보다 많은 자릿수가 있으면 반올림하고, 더 적으면 계산기가 지운 끝의 0이 없는지 살펴보십시오.

• 정확한 수가 답을 제한하게 두는 것. 1000 mL/L 같은 인자나 계수 2는 유효숫자를 절대 줄이지 않습니다.
• 합에 곱셈 규칙을 쓰는 것. 합과 차는 자릿수 개수가 아니라 소수 자릿수로 제한됩니다.
• 중간값을 매번 반올림하는 것. 보호 자릿수를 남기고 마지막에 한 번만 반올림하십시오.
• 의미 있는 끝의 0을 빼먹는 것. 측정값이 2.50 mL인데 계산기에는 2.5로 표시되면 0을 다시 써 넣으십시오.
• 맨 앞의 0을 세는 것. 0.0081 g은 유효숫자가 네 개가 아니라 두 개입니다.
• 모호한 0이 있는 정수로 보고하는 것. 세 자리가 의미 있다면 340 g 대신 3.40 × 10² g으로 쓰십시오.