有効数字（誤差）

質問

質問です。
有効数字or誤差について聞きたいのです。
ある測定をして、１回目の値が3.61×10^(-7)、２回目が3.92×10^(-7)という値になりました。
そして、正しい値は3.9×10^(-7)なのです。ここで、正しい値に対して、測定結果の有効数字or誤差はどのように評価すればいいのでしょうか？
非常に恐縮なのですが、できるだけ早い回答をお願いしたいです。お願いします。

回答No.2

at9_am · ベストアンサー

まず、有効数字について。
有効数字は、例えば 4.13 という数値があったら、真の値は 4.125 と 4.135 の間にある、という意味です。したがって和をとると、有効数字は一桁減ります。例えば 4.13 と 2.15 の和は 6.28 ですが、真の値は 6.27 と 6.29 の間にあり、正しい結果を示すのは小数点以下一桁までとなります。

普通、正しい値は事前には分からないので、測定を繰り返すことで正しい値を推定します。推定には平均値を用いるのが一般的です。
平均値は 3.765×10^(-7) なのですが、有効数字の定義から、真の測定値の平均は 3.76×10^(-7) と 3.77×10^(-7) の間にありますので、有効なのは 3.7×10^(-7) です。

したがって測定結果から得られた正しい値の推定値は 3.7×10^(-7) で、誤差は 0.2×10^(-7) となります。

お礼

どうも丁寧な回答ありがとうございます。
これで、レポートに書くと無事合格することが出来ました。
また、わからないことがあったら教えてください。

回答No.1

kasutanetto

２回目の値を採用して四捨五入すればいいのではないですか？
正しい値の有効数字も大きくないので、そこまで制度を要求されているとは思えませんし。

お礼

回答ありがとうございます。
そうでしょうか？とりあえずやってみます。