有効数字について

質問

有効数字について

電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4～5ケタ)という測定値を得たとします。

このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、

ρ=(S/L)*(V/I)

という計算を行ったとします。

この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか？

また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、
この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか？
Vの値はそのまま表に記載した方がいいのでしょうか？

「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。

あまり上手い日本語で書けていないかもしれませんが、
ご教授のほど、よろしくお願いします。

回答No.1

sanori

こんにちは。

＞＞＞この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか？

そうせざるを得ないです。
2桁にするずるい人もときどき見かけますが。

＞＞＞また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、
＞＞＞この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか？

個々の数字は計算結果ではなく実測値ですから、少なくとも、Ｉの計算値に影響を与える桁、すなわち有効数字の一つ下の位（２桁）までは示すべきです。

＞＞＞Vの値はそのまま表に記載した方がいいのでしょうか？

上述の通り２桁までが適切です。

＞＞＞「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。

ρの値は１桁にそろえる（そろえざるをえない）ということですね。

以上、ご参考になれば。