理科の有効数字について

質問

理科の有効数字に関する質問です。

理科の問題文の数値を使って計算するとき、計算結果は問題文中の測定値の桁数のうちで、最も桁数の少ない値に、最後の結果を合わせるというルールがあり ますが、これは途中に足し算や引き算があるときにも適用されますか？

例えば、問題文の数値が２桁と３桁で、掛け算割り算を先にやって、最後の結果の前の式が例えば12.3+4.56と言うようになったとき、答えは有効桁数２桁により17になりますか？それとも足し算のときの、計算結果の末位を最も末位の高いものにそろえるというルールにより、16.9になりますか？

回答No.1

trytobe · ベストアンサー

最後の結果で、その有効桁数に丸めますが、計算途中でその桁数まで丸めてしまうと、ご指摘の通りに誤差が累積して合わなくなります。

そこで、一般的には、

・足し算引き算は、全桁。

・掛け算・割り算は時間がかかるので、有効桁数より１桁多いところまで計算して、その値をさらなる計算に用いる、

ということで、ほとんどの場合は最後の有効桁数では誤差が収まって一致する、という方法が便宜的に用いられています。

お礼

回答ありがとうございます

回答No.2

Tann3

掛け算、割り算は、「有効な桁数を合わせる」という原則です。
　これに対して、足し算、引き算では、「有効桁そのもの（数の位）を大きい方に合わせる」というのが原則です。

　たとえば、同じ「有効数字3桁」でも、

　　　123 + 0.0456

の場合には、123は「122.5 ～ 123.4999 の小数点以下1桁目を四捨五入したもの」つまり「誤差は -0.5 ～ 0.5」ということなので、「0.0456」という値は「誤差の中に埋もれてしまう」からです。
　この場合には、

　　　123 + 0.0456 = 123.0456 ≒ 123

と書くのが普通です。小数点以下の「.0456」は「不確かなので書かない」ということです。
　もし、きちんと「小数点以下4桁目まで正確である」ことを示したければ、

　　　123.0000 + 0.0456 = 123.0456

と書きます。

　ご質問の例でいえば、

＞問題文の数値が２桁と３桁で、掛け算割り算を先にやって

という部分では、基本は「３桁で計算していって、まだ最終結果ではないので、3桁のままにしておきます。

　もし、それが計算の最終結果であれば、「３桁目を四捨五入して、2桁にした値」を答とします。

＞例えば12.3+4.56と言うようになったとき

　これは「足し算、引き算」の場合になり、「有効な位」は、小数点以下1桁までで、小数点以下2桁目は「不確実な値」になります。
　「12.3」の場合には

　　　　12.25≦「12.3と表記された数値の真の値」＜12.35

というように、「小数点以下2桁目を四捨五入した値」とみなされるからです。

　ということで、

　　　12.3 + 4.56 = 16.86 ≒ 16.9

（小数点以下2桁目を四捨五入）ということになります。

お礼

回答ありがとうございます