計算における有効数字 — ルールと例

計算で有効数字を使うのは、測定値が実際に支えている精度で答えを報告するためです。化学ではルールはシンプルで、乗除では有効数字に従い、加減では小数位に従います。

2つだけ覚えるなら、次の2つです。

1. 乗法と除法では、最終答えを、測定値のうち有効数字が最も少ないものと同じ有効数字の桁数に丸めます。
2. 加法と減法では、最終答えを、最も精度の低い小数位に合わせて丸めます。

これらは測定値を報告するためのルールです。正確な個数、定義された換算係数、化学量論係数は、通常は最終的な精度を制限しません。

なぜ計算で有効数字が重要なのか

有効数字は単なる書式ではありません。測定データがどれだけの精度を支えているかを示します。

たとえば、$12.0\ \mathrm{mL}$ と $12.00\ \mathrm{mL}$ は、測定の質について同じことを言っているわけではありません。後者は、より小さい位まで精度があることを示しています。計算によって、入力した測定値が正当化できる以上に信頼できる桁を作り出してはいけません。

そのため、化学の先生はよく「各段階で丸めず、最後に丸める」と言います。途中で早く丸めると、気づかないうちに結果が変わることがあります。

実際に使う有効数字の2つのルール

乗法・除法での有効数字

量を掛けたり割ったりするとき、結果は有効数字が最も少ない測定値によって制限されます。

$12.11$ を $4.2$ で割ると、電卓では次のようになります。

$$\frac{12.11}{4.2} = 2.88333\ldots$$

しかし、$12.11$ は有効数字が $4$ 桁で、$4.2$ は $2$ 桁です。したがって、報告する答えは $2$ 桁の有効数字にするべきです。

$$2.9$$

加法・減法での小数位

量を足したり引いたりするとき、制限になるのは有効数字の総数ではなく、小数位です。

たとえば、

$$12.11 + 0.3 = 12.41$$

$0.3$ は小数第1位までしか精度がないので、報告する答えも小数第1位で止めるべきです。

$$12.4$$

これは学生が最も混同しやすいルールです。乗法と加法では、同じ方法で丸めません。

例題：有効数字を使った密度計算

ある試料の質量が $12.11\ \mathrm{g}$、体積が $4.2\ \mathrm{mL}$ と測定されたとします。密度を求めましょう。

密度の式を使います。

$$\rho = \frac{m}{V}$$

値を代入すると、

$$\rho = \frac{12.11\ \mathrm{g}}{4.2\ \mathrm{mL}} = 2.88333\ldots\ \mathrm{g/mL}$$

ここで、正しい丸めのルールを適用します。

• $12.11$ は有効数字が $4$ 桁です。
• $4.2$ は有効数字が $2$ 桁です。

これは除法なので、結果は有効数字 $2$ 桁にします。

$$\rho \approx 2.9\ \mathrm{g/mL}$$

重要なのは計算そのものではありません。重要なのは、報告する密度の精度を制限しているのが体積の測定値だという点です。

複数段階の化学計算ではどうするか

化学の問題では、モル質量、化学量論、濃度計算など、複数の段階が組み合わさることがよくあります。そのような場合は、途中計算では余分な桁を残し、最後に報告する値だけを丸めるのが一般的に最善です。

そうすることで、小さな丸めのずれが積み重なるのを防げます。また、最後に実際に報告する量に対して、正しいルールを適用しやすくなります。

ある段階で、平衡化学反応式の係数、数えた粒子数、$1\ \mathrm{min} = 60\ \mathrm{s}$ のような定義された換算のように正確な数を使う場合、その正確な数は通常、有効数字の制限にはなりません。制限になるのは、通常、質量、体積、温度、濃度のような測定データです。

有効数字でよくあるミス

すべての演算に同じルールを使う

これが最も大きな誤りです。乗法と除法では、有効数字が最も少ないものに合わせます。加法と減法では、最も精度の低い小数位に合わせます。

早すぎる丸め

$2.88333\ldots$ を早い段階で $2.9$ にして、その後も計算を続けると、最終答えが必要以上にずれることがあります。可能なら最後まで余分な桁を残しましょう。

正確な数で答えの精度を制限してしまう

平衡化学反応式の係数、数えた物体の個数、定義された換算は、通常は正確な数です。これらは通常、測定結果の精度を下げません。

末尾のゼロの意味を無視する

$2.0\ \mathrm{mL}$ と $2.00\ \mathrm{mL}$ は、同じ精度を表していません。化学では、それらのゼロが有効数字の桁数を変えるため重要になることがあります。

化学で有効数字を使う場面

有効数字のルールは、化学が測定データに依存するあらゆる場面で重要です。たとえば、密度、モル濃度、滴定、化学量論、熱量測定、実験レポートなどです。

実際の実験では、これは単なる授業上の約束ではありません。桁を多く書きすぎると、測定過程が支えていない精度まであるように見えてしまいます。

答えを提出する前のクイックチェック

最終答えを確定する前に、次のことを確認しましょう。

1. 最後に報告する量は、乗法・除法で得たものですか、それとも加法・減法で得たものですか。
2. 実際に精度を制限している測定値はどれですか。
3. 計算が終わってから丸めましたか。

この3つに明確に答えられるなら、その有効数字の答えはたいてい適切です。

似た問題で練習してみよう

密度の例を少し変えて、たとえば $12.108\ \mathrm{g}$ と $4.25\ \mathrm{mL}$ を使って、もう一度解いてみましょう。長い化学量論や滴定の問題の中で出会う前に、ルールの意味を確かめる手早い方法です。