目次
はじめに
ここでは有効数字について解説します。
有効数字の取り扱いについて
■有効数字と表記方法について
100m走のタイムを測るために、メジャーを使って校庭のスタートからゴールまでの100mを測ったとします。
この時、メジャーの目盛りに示された数字の1、0、0はいずれも測定で得られた意味のある数字なので、これらを有効数字と言います。
この例の場合だと「有効数字の桁数は3桁である」という言い方をします。
有効数字は、桁数が多いものほど精密に測定されたものであることを示します。
例えば、100mと表記した場合であれば、有効数字は3桁で、m単位までが信頼できる値であることを示しますが、cm単位まで測定できるメジャーであれば、
100mは100.00mと表記して、cm単位まで信頼できる値であることを示します。
ちなみに、この場合の有効数字は5桁となります。
また、100mはcm単位に直すと、10000cmとなりますが、有効数字が3桁の場合は1.00×104と表記して有効数字が3桁であることを示します。
km単位では0.1kmとなりますが、有効数字3桁であることを示す場合は0.100と表記します。
この時、一番左側の0は有効数字の桁数としてカウントしないので注意してください。
■有効数字の必要性について
有効数字は、計算や測定結果の精度や信頼性を示すために重要です。測定値が有効数字の桁数を超えるような場合、測定器の限界や誤差などを考慮せずに結果を解釈することは適切ではありません。
例えば、100m走のタイムを腕時計を使って測定した時に、Aさんの結果が7秒だったとします。
一方、Bさんの100m走のタイムをストップウォッチで測定したら、6.8秒でした。
もしも、Aさんのタイムをストップウォッチで測定したら、7.2秒だったかもしれませんし、6.7秒だったかもわかりません。
この場合だと、腕時計の有効数字は1桁、ストップウォッチは2桁で、ストップウォッチによる測定値は腕時計の精度を上回っています。
したがって、このような場合は、測定器の限界や誤差などを考慮しないと結果を適切に解釈できません。
■有効数字を考慮した計算(四則演算)
先ほどの例に示した通り、測定結果や測定値を用いた計算結果を正確に伝えるためには、有効数字を考慮する必要があります。測定値には必ず何かしらの誤差が含まれるので、測定値どうしの計算では、有効数字を適切に扱うために、次のような点を考慮しなければいけません。
■かけ算、わり算
まずは、かけ算とわり算です。測定値どうしをかけたりわったりするときは、通常、最も少ない有効数字の桁数とします。この際、有効数字より1桁多い位を四捨五入して計算します。
例えば、縦26.8cm、横3.2cmの長方形の面積は、26.8cm×3.2cmで85.76cm2となりますが、26.8cmは有効数字3桁、32cmは有効数字2桁なので、有効数字は2桁に揃えます。
そこで、85.76の小数点第1位を四捨五入して、86cm2として有効数字2桁とします。
■足し算、引き算
次に足し算と引き算ですが、測定値どうしを足したり引いたりするときには、通常、計算した結果を四捨五入によって測定値の末位が最も高い位のものに合わせます。
例えば、21.58cmの棒と8.6cmの棒を継ぎ足した長さは、
21.58cm+8.6cm=30.18cmとなりますが、この時、測定値の末位は、それぞれ21.58は小数第2位、8.6は小数第1位なので、末位が高い小数第1位に揃えます。
したがって、小数第2位は四捨五入した上で、30.2cmとします。
■整数や無理数の扱い
最後に整数や無理数ですが、これらは測定値ではないので、有効数字は考えません。したがって、無理数を計算で用いる場合には、測定値の桁数よりも1桁程度多くとって計算します。
例えば、半径が1.0mの円周の長さであれば、2πr=2×3.14×1.0 という風に円周率を有効数字2桁の1.0mより1桁多くとって3.14で計算します。
そして、解答はここでは有効数字2桁とします。
これで有効数字の解説は以上となります。