有効数字の取り扱い

質問

ある実験で最終結果を有効数字３桁にしたい場合を考えます。
物理量Ａ（複数回測定）、Ｂ（１回のみ測定）、Ｃ（Ａに同じ）があり、それらの有効数字は
Ａ：５桁
Ｂ：３桁
Ｃ：４桁
で、
平均値の有効数字が
Ａ：６桁
Ｃ：７桁
になるとします。

Ａ、Ｂ、Ｃを計算してＤという物理量を求める場合、
（１）有効桁数を考えずに途中計算を行い、最終結果のみを３桁にする。
（２）Ａ、Ｃの平均値を有効数字を合わせながら（(a)Ａは測定値の５桁、Ｃは６桁にor(b)Ａ、Ｃともに３桁に）行う。
のどちらが正しいのでしょうか。

回答No.2

opechorse · ベストアンサー

やっぱり、
私も書いた後で、精密機器を用いたケースとかを考えてしまいました

正確には誤差計算をしなければなりませんが
(1)、もしくは(2)の(a)の方法になります
(b)は前回回答と同じです

お礼

分かりました。ありがとうございました。

回答No.1

opechorse

これは、できない(有効数字が2桁しか計算できない)ですね
有効数字は一番桁数の小さいものによるので
Bが3桁ということは
誤差が計算により増幅されるので
計算した結果Dは、有効数字2桁になります
だから、本来、(1)も(2)も同じになるのですが
違う結果が出るのです

補足

書き忘れてしまったんですが、Ｂは測定機器を用いたものです。
精密な機器を用いても最後の桁には誤差が含まれるので、
やはり２桁までしか出せない、ということでよろしいでしょうか。