測定値と有効数字

測定値は,ある量の大きさを知ろうとして,計器で測定して得られた値のことをいいます。
測定値と実際の大きさ(真の値)とは,ふつういくらかの違いがあり,それを誤差といいます。そうした誤差は,正確な計器をつくることができないことや,計器の最小目盛りより下は目分量で読みとることなどにより生じます。したがって,測定値も近似値(真の値に近い値)といえます。
ところで,測定値では測定した結果を1.30mとかく場合があります。これは1.3mとは異なり,0.01m単位まで測定したことを意味しています。その結果,1.30mの0は,測定値では重要な意味をもつ数字です。このように測定によって得られた信頼のおける数字を有効数字といいます。
計器を用いる実測とは違って,直接的に計器を使わずにある量のおよその大きさを測ることを,概測といいます。長さ,面積,体積などの概測が考えられますが,下の例は,歩幅を利用した長さの概測です。

ところで,概測において注意したいことは,概数の計算をどのように行うかです。上の例でいえば,歩幅は上から2桁の概数ですから,その積の値を詳しく求めてもあまり価値がありません。そこで,積も下のように,上から2桁の概数にします。

概測の計算においては,加減の場合は,一般に有効数字の末位の高いものにそろえ,乗除の場合は,有効数字の桁数の最も少ないものにそろえて計算します。