- ベストアンサー
有効数字の取り扱いについて
ddtddtddtの回答
#1さんの仰る通りですが、昔は筆算でやってたため、計算途中の筆記量を減らすために(有効数字+2)桁を四捨五入し、(有効数字+1)桁で手計算してました。 積(除算含む)しか現れない場合、数値の頭から(有効数字+1)桁で計算し、結果の(有効数字+1)桁目を四捨五入すれば、OKです。 加法(減法含む)も現れる場合は、計算対象の絶対値最小の数値が問題になります。いわゆる桁落ちという奴です。だからたいてい、有効数字は「小数以下3桁まで」とかの条件がつきます。加法(減法)の場合は、加減の回数も誤差に影響します。 例えば加減の回数が100=10^2程度なら、「小数以下3+2+1桁」で計算し「小数以下4桁」で四捨五入するのが安全だったのですが、面倒なので、「小数以下4桁」で計算し四捨五入するのが普通でした。理由は、人間が筆算で行える加減の回数なんて、たかが知れてますから。つまり加減の回数は10回以下くらい、というわけです(^^;)。
関連するQ&A
- 有効数字の取り扱いについて
少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか? 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか? また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか(定義されているので、そのまま計算に使うのかどうか)? さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか(この場合においても四捨五入が必要なのかどうか)? ご存知の方がいらっしゃいましたらご回答よろしくお願いします。
- ベストアンサー
- その他(学問・教育)
- 理科 有効数字
かけ算、割り算のとき、どの桁まで計算するかということについて教えてください。 例えば、有効数字2桁で答えるときは、途中計算は3桁目まで計算すると習いました。このとき、4桁目を四捨五入するのですか?それとも切り捨てるのですか? 例:3.51×4.9×0.30を計算する場合、 A:4桁目を四捨五入するのが正しい場合 3.51×4.9=17.199=17.2 17.2×0.30=5.16=5.2 B:4桁目を切り捨てるのが正しい場合 3.51×4.9=17.199=17.1 17.1×0.30=5.13=5.1 ABのどちらが正しい計算なのでしょうか? Aが正しい場合、 計算の順序を変えてみます。 3.51×0.30×4.9=1.05×4.9=5.145=5.1 Bが正しい場合、 計算の順序を変えてみます。 4.9×0.30×3.51=1.47×3.51=5.197=5.2 このように、A、Bのどちらが正しいとしても、最終結果に違いが出てしまっているのですが、入試や模試ではどのように採点されているのでしょうか。 回答よろしくお願いいたします。
- ベストアンサー
- 化学
- 有効数字について
有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4~5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか? また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか? Vの値はそのまま表に記載した方がいいのでしょうか? 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。
- 締切済み
- 物理学
- 有効数字 特に、約分・計算順序について
とある問題で、 9.8 × ( 24 × 60 × 60 )^2 ━━━━━━━━━━━━━ ←÷の分数表記です 4 × ( 3.14 )^2 × 6.4 × 10^5 という数の計算がありました。 どう計算するのがもっとも精度がいいのでしょうか? ※ 有効数字は 9.8 2桁 3.14 3桁 6.4 2桁 24 × 60 × 60 は正確な値としてよい。 4 は正確な値としてよい。 なお、値の精度は、誤差○.○~□.□があるから、ではなく、桁数のみで判定してください。(大学入試的な意味で) ちなみに、手元の答えでは≒2.9 × 10^2となっています。私は初め2.3 × 10^2になりました(←計算間違いではなく 泣 ) 計算途中の切り捨て、約分、計算の順序、四捨五入、等、できるだけ詳しく計算過程を記述してほしく思います。
- 締切済み
- 物理学
- 有効数字 実験計算時
たとえば最初に出てきた値が0.011だとして、次に出てきた値が5.01次に出てきた値が0.1の時、最終的に有効数字は2桁になると思うんですが、計算途中で既に2桁で計算したほうがいいのでしょうか? それとも最終的に出てきた値を有効数字で表すべきですか? たとえば 0.011×5.01=0.05511 0.05511×0.1=0.005511 有効数字二桁より 0.1 とするか 0.011×5.01=0.05511 ⇒有効数字二桁より0.1 0.1×0.1=0.01 よろしくお願いします。 にするか
- ベストアンサー
- 科学
- 実験の有効数字について
有効数字3桁の値を用いて計算を行ったところ、値が0.11235や0.09812となったのですがこのときの有効数字は0.112と0.0981となるんでしょうか? これだと精度が変わってしまうと思うんですけどこの場合はどうなるでしょうか? どうぞよろしくお願いします。
- ベストアンサー
- 科学