化学計算における有効数字

測定値と厳密な数

どの測定器にも限界があるため、測定値には不確かさがあります。0.1 mL 刻みの目盛りがあるビュレットを読むときは、確かな目盛りを読み取ったうえで、目盛りの間をもう1桁だけ目分量で推定します。そのため 18.36 mL という読みの有効数字は4桁で、確かな3桁と推定した1桁からなります。18.360 mL と書くと、ビュレットでは得られない精度を主張することになります。

厳密な数には測定の不確かさがありません。厳密な数は、数え上げ(試験管立てに12本の試験管)、定義(1インチはちょうど 2.54 cm、1 L はちょうど 1000 mL)、そして化学式や反応式の係数と添字から得られます。厳密な数は有効数字が無限にあるものとして扱うので、計算結果の精度を制限することはありません。

桁の数え方(やっかいなゼロも含めて)

ゼロでない数字は常に有効数字です。ゼロは、測定した情報を表しているか、小数点の位置を示しているだけかによって、有効数字になる場合とならない場合があります。以下の規則は、一般化学で出会うすべての場合を網羅しています。

小数点のない整数の末尾のゼロだけは、本当にあいまいな場合です。1200 g と書かれた質量は、有効数字2桁、3桁、4桁のいずれの可能性もあります。科学的記数法を使えばあいまいさがなくなります。1.2 × 10³ g は2桁、1.20 × 10³ g は3桁、1.200 × 10³ g は4桁です。

• ゼロでない数字にはさまれたゼロは有効数字です。30.506 g は5桁です。
• 先頭のゼロは決して有効数字ではなく、小数点の位置を示すだけです。0.004070 m は4桁(4、0、7、0)です。
• 小数点より右側の末尾のゼロは有効数字です。2.500 mL は4桁です。
• 小数点のない整数の末尾のゼロはあいまいです。意図を示すには科学的記数法を使います。

足し算と引き算:小数点以下の桁をそろえる

量を足したり引いたりするとき、重要になるのは有効数字の個数ではなく、最後の小数位における絶対的な不確かさです。結果は、小数点以下の桁数がもっとも少ない測定値と同じ桁数に丸めます。

例題1。異なる天びんで量った固体を3回に分けて合わせます。12.6 g、0.237 g、105.42 g です。電卓には 118.257 g と表示されます。最初の質量は小数第1位までしかわかっていないので、和も小数第1位までしかわかりません。したがって 118.3 g です。入力のひとつが3桁しかないのに、答えは4桁になっていることに注目してください。足し算では、桁数が結果を制限するのではありません。

引き算では有効数字が失われることがあります。液体の入ったフラスコの質量が上皿天びんで 58.36 g、空のフラスコの質量が分析天びんで 57.912 g だったとします。電卓上の差は 0.448 g ですが、最初の質量は小数第2位までしかわかっていないので、液体の質量は 0.45 g です。4桁と5桁の入力から、2桁しか残りません。大きな2つの数の小さな差が重要なときは、両方をより精度の高い天びんで量ります。

掛け算と割り算:有効数字の桁数を数える

積と商では、相対的な不確かさが引き継がれます。結果は、有効数字がもっとも少ない入力と同じ桁数に丸めます。

例題2。直方体のブロックの寸法が 4.20 cm、2.15 cm、1.8 cm です。体積は、電卓上では 4.20 cm × 2.15 cm × 1.8 cm = 16.254 cm³ です。高さの有効数字は2桁しかないので、体積は 16 cm³ と報告します。3桁目を正当化できるのは、たとえばノギスで高さを 1.80 cm とより精密に測った場合だけです。

対数にも、pHの計算に現れる関連した規則があります。対数の小数点以下の桁数は、もとの値の有効数字の桁数に等しくなります。水素イオン濃度 3.4 × 10⁻⁴ mol/L の有効数字は2桁なので、pHは小数点以下2桁の 3.47 と報告します。

複数段階の計算では、最後に1回だけ丸める

何段階もある計算では、途中の値にそれぞれ1〜2桁以上の余分な桁(ガードディジット)を残し、最終的な答えだけを丸めます。各段階で何桁が妥当かは把握しておきますが、最後まで桁を捨てないでください。段階ごとに丸めるとそのたびにわずかな誤差が加わり、その誤差が最後に報告する桁を変えてしまうことがあります。

例題3。塩化ナトリウム 1.37 g を水に溶かし、メスフラスコでちょうど 50.00 mL に希釈します。小数第2位に丸めた IUPAC の標準原子量(Na 22.99、Cl 35.45)を使うと、NaCl のモル質量は 58.44 g/mol です。物質量は 1.37 g ÷ 58.44 g/mol = 0.023443 mol で、丸めずに保持します。体積は 0.05000 L なので、濃度は 0.023443 mol ÷ 0.05000 L = 0.46886 mol/L となり、質量の有効数字が3桁であるため 0.469 mol/L に丸めます。

もし先に物質量を 0.0234 mol に丸めていたら、0.0234 mol ÷ 0.05000 L = 0.468 mol/L になります。差はわずかですが、これは測定ではなく計算によって生じた本物の誤差であり、計算の連鎖が長くなると大きくなることがあります。

ちょうど真ん中の桁を切り上げるか偶数にするか

最初に捨てる桁が5未満なら、残す桁はそのままにします。5より大きい場合、または5の後に0以外の数字が続く場合は切り上げます。したがって 0.064371 は有効数字3桁で 0.0644 に、7.2849 は 7.28 に丸まります。

議論があるのは、捨てる桁がちょうど5で、その後に何もない場合だけです。OpenStax Chemistry 2e は、残す桁が偶数になるように丸めます(6.125 は 6.12 に、6.135 は 6.14 になります)。こうすると、多数回の丸めで生じるわずかな上向きの偏りを避けられます。多くの教員は単純に5を切り上げます。授業でどちらの規則を使うか確認し、一貫して適用してください。影響するのはこの1つの場合だけです。

自分の計算で確認したい有効数字の誤り

有効数字の誤りの大半は、いくつかのありがちなミスから生じます。答えを枠で囲む前に、入力をもう一度読み、どの入力が結果を制限しているか、どの規則によるかを自問してください。

簡単な習慣にすると定着します。答えのそばに、制限している入力と、適用した規則(小数点以下の桁数か有効数字の個数か)を書き添えます。答えの桁数がその入力が正当化する以上であれば丸め、少なければ電卓が省いた末尾のゼロを探します。

• 厳密な数が答えを制限してしまう。1000 mL/L という係数や、係数の 2 によって、有効数字が減ることはありません。
• 和に掛け算の規則を使う。和と差を制限するのは、桁数ではなく小数点以下の位です。
• 途中の値をすべて丸める。ガードディジットを残し、最後に1回だけ丸めます。
• 意味のある末尾のゼロを落とす。測定値が 2.50 mL でも電卓は 2.5 と表示します。ゼロを書き戻してください。
• 先頭のゼロを数える。0.0081 g の有効数字は4桁ではなく2桁です。
• ゼロがあいまいな整数で報告する。3桁に意味があるときは、340 g ではなく 3.40 × 10² g と書きます。