有効数字

質問

ルートの有効数字ってどこで切ればいいんでしょうか？また計算途中だったら、1桁多くとったほうが良いのでしょうか？

回答No.2

sunasearch · ベストアンサー

問題文に有効数字が書かれていない場合には、
計算に必要なほかの数字の桁数に合わせてください。

ひとつだけ、有効数字が多すぎても意味がありませんから。

計算途中は桁数を一つ多くします。
たとえば、答えの有効数字が２桁の場合、
初めから２桁にした場合と、
３桁で計算した場合とでは、

1.44 * 1.74 = 2.5056 -> 2.5
1.4 * 1.7 = 2.38 -> 2.4

のように計算結果に差が出てしまいます。

お礼

なるほど、
有効数字の性質を考えればわかることでしたね、
すいませんでした。

回答No.1

dyna43

問題文に出ている数字が必要とされる精度です。
計算中は、一桁多めに有効数字をとっておきます。