１．目盛りの読み方とデータ処理

［目的］測定とその測定の誤差をとおして、データの処理のしかたを理解する。
［準備］ ものさし
［操作］
　目盛りの10分の１まで測定する。
［留意点･工夫点］
☆目盛り部を測定物に密着させる。
☆目の位置を真正面にして視差を防ぐ。
☆数回、長さを測定し平均をとる。
☆測定するとき、必ずしも０を基点としなくてもよい。ただし、端が０のものさしのときは、基点がすり減っていることがあるので、ここを 基点としてはいけない。
＜参考＞
・目盛りの読み方
　測定においては、測定器具に付いている最小目盛り（例えば日常使用するものさしでは１mmが最小目盛 り）の10分の1までを目分量で読みとるのがふつうである。上の例では、127.6㎜と読む。
　
・誤差
　ものさしで長さを測ったり、はかりで重さを量ったりするとき、ものさしやはかりの精度には限界があり、また目盛りの読みとりも完全に正確にはできない。そのため、真の値と測定値との間にくい違いを生じる。このくい違いを誤差という。誤差には次の２種類がある。
　ａ）絶対誤差(一般に「誤差」というと、絶対誤差のことをいう)
　　 　絶対誤差＝測定値－真の値
　ｂ）相対誤差(「誤差何％」というときに使う)
　　　　　　　　　
・有効数字
　127.6㎜の例では、１、２、７は、もちろんのこと、６も５や７と読むより、真の値に近いという意味で、 それぞれ意味をもつ値である。これらを有効数字という。この場合の有効数字は４桁である。これに対 して、0.0035の0.00は位どりの０であるから有効数字の桁数には数えない。したがって、0.0035は3.5 ×10-3と表記でき、この有効数字は２桁である。また、130.0のようなときには、1.300×102と表記できるので、有効数字は４桁となる。
・測定値の計算と有効数字
　ａ）測定値どうしの乗除計算
　　複数の測定値の有効数字の桁数が異なるときには、最も少ない桁数よりも１桁多くして計算し、最後に 四捨五入して最も少ない桁数にする。
　（例）長方形状の物体の縦と横の長さをはかって、それぞれ26.8cmと3.2cmを得たとする。この値は測定の際に、小数点第2位の値を四捨五入して得られたと考えられ、これらの測定値には±0.05cm以内の誤差があると考えられる。よって、長方形の真の面積Ｓ〔cm2〕は、　　26.75×3.15≦Ｓ＜26.85×3.25
　ゆえに　 84.2625≦Ｓ＜87.2625……①の範囲内にある。
したがって、長方形の面積を26.8×3.2＝85.76cm2……②
と計算したとき①式を参考にしてみると、

そこで長方形の面積は②式で小数点第１位を四捨五入して86cm2とする。
　ｂ）測定値どうしの和差計算
　　測定値どうしの和や差を求めるときには、計算した結果を四捨五入によって測定値の末位が最も高い位のものにあわせる。
　（例）２本の棒Ａ、Ｂの長さをはかって、Ａは21.58cm、Ｂは8.6cmであったとき、 棒Ａ、Ｂを継ぎ足 した長さは、そのまま計算すると
　　　　　　21.58＋8.6＝30.18cm
となる。しかし、Ｂの測定値には±0.05cm以内の誤差があるので、30.18の小数第２位の数字は信頼できない。したがって小数第２位を四捨五入して30.2cmとしなければならない。
　ｃ）無理数や円周率
　　計算の中の無理数や円周率は、他の測定値の有効数字より1桁多くとる。また、他の定数についても同様にする。
＜関連実験＞
［目的］ノギスの目盛りの読み方を理解する。
［準備］ノギス
［操作］ノギスを使って測定する。
　
　目盛りの読み方
　
　１. バーニヤの目盛り０のところ（ａ）の主尺の目盛りを読む…3.1
２．ｂのバーニヤの目盛りを読む…0.06
３．測定値は3.16となる
［留意点・工夫点］
☆円筒などの内径をはかる場合は上のうでを使用する。
☆バーニアを使用したこの目盛りの読み方は、水銀気圧計、精密はかりなどがある。
☆通常、単位はミリを使う。
＜関連実験＞
［目的］マイクロメーターの目盛りの読み方を理解する。
［準備］マイクロメーター
［操作］マイクロメーターを使って測定する。
　
　目盛りの読み方
　１．円筒の目盛りを外筒の左端で0.5㎜単位まで読む…3.5
２．外筒の目盛りを円筒の目盛り中央の基線で読む…0.20
３．外筒の目盛りを目分量で読む　…0.002
４．測定値は3.702となる