小数点が切られている数字を計算する際の，有効数字の取り扱い方

質問

有効数字の取り扱いについて質問なのですが，

例えば，縦横がともに1.3mの敷地の面積を求める際は，辺の長さは2桁の数値で表されているので，1.69m^2となり，1.7m^2とするのが正しいやり方だと理解しているのですが，

例えばの話，縦20m，横4mの敷地を求めるとなった場合は，どのような取り扱いを行うのが正しいでしょうか．

素直に計算した場合，20×4=80となるわけですが，横の長さは1桁ですので，80m^2と出した場合は，厳密に考えると不正解なのでしょうか？

また，8m四方の敷地の面積を求めるということになった場合，これも計算をすると8×8=64ですが，64m^2とするのは不正解なのでしょうか？

回答No.3

Ishiwara · ベストアンサー

１.３×１.３を一律に１.７とするのは誤りです。
元のデータ（１.３）がどのくらいの精度を持っているかによって、結果の丸めかたは異なります。
また、１.６９より１.７とするほうが良い、と判断した場合でも、それがさらに次の計算に使われるデータであれば、ここで丸めてしまうことは、誤差を拡大することになります。

別の問題として、整数で得られた測定値を２０で割った値を小数点以下２けた目で四捨五入するとき、機械的にやると、最終的に答が大きめに
なってしまいます。

このように、データを丸めるときは、どのようにして得られたデータなのか、これからどのように使われるのか、を考慮する必要があります。

お礼

ありがとうございました．丸めるタイミングが問題なのですね．

その都度，丸めるというより，最終的な答えを出した上で，最小桁にあわせて丸めるというのが一番よさそうですね．

回答No.2

ryn

掛け算の場合，有効数字は桁数の少ないほうにあわせます．
桁数の少ないほうの数値程度の精度しかないということです．

したがって，
　20×4.0 = 80
　20×4 = 8×10
　200×4 = 8×10^2
　8×8 = 6×10
のようになります．

No.1 さんの例はそれぞれ
　20.1×4.1 = 82
　8.0×8.0 = 64
　123456.78×9.01 = 1.11×10^6
となります．

お礼

ありがとうございました．

有効数字については，ちらほら，大学の講義サイトにのっているのを確認したのですが，そのルールに則れば則るほど，小中学校時代に教わってきた答えの表記の仕方との乖離が見られ，「これでいいのだろうか？」という不安の連続でした．

回答No.1

chie65536

小数点の左側と右側は、別の物だと考えましょう。

＞例えば，縦横がともに1.3mの敷地の面積を求める際は，辺の長さは2桁の
＞数値で表されているので，1.69m^2となり，1.7m^2とするのが正しいやり
＞方だと理解しているのですが，

これは「1.3は、小数点以下１桁だから（小数点の右側が１桁だから）、答えも小数点以下１桁で良い（小数点の右側は１桁で良い）」と言う意味であり「1.3は、全体で２桁だから、答えも２桁」は間違いです。

以下の例を参考にして下さい。
20×4＝80　　　小数点以下０桁だから答えも小数点以下０桁にする
20.0×4.0＝80.0　　　小数点以下１桁だから答えも小数点以下１桁にする
20.1×4.1＝82.4　　　小数点以下１桁だから答えも小数点以下１桁にする
8×8＝64　　　小数点以下０桁だから答えも小数点以下０桁にする
8.0×8.0＝64.0　　　小数点以下１桁だから答えも小数点以下１桁にする
123456.78×9.01＝1112345.59　　　小数点以下２桁だから答えも小数点以下２桁にする

「全体の桁が」じゃなく「小数点より右側の桁が」と考えて下さい。
「小数点の無い物は、小数点より右側の桁が０桁」と考えて下さい。

なお「縦横で小数点以下の桁数が違う場合」は「答えは、小数点以下の桁数が多い方」で書くのが無難です。

例
12m×0.7m＝8.4m^2
これは
12.0m×0.7m＝8.4m^2
と考えます。

これは「『???.0』とピッタリの場合に『.0』を省いて書いた」と考えれば良い訳です。

声に出す時も１２ｍピッタリだったら「じゅうにーてんぜろめーたー」と言わずに「じゅーにめーたーちょうど」って言ったりしますしね。

お礼

ご意見いただきましてありがとうございました．
こういうのは，意外と小中学校で教わらず，？？の連続でした．