- ベストアンサー
有効数字の取り扱いについて
ken-nosukeの回答
- ken-nosuke
- ベストアンサー率36% (56/154)
①有効数字3桁とは、頭から4桁目を丸め（四捨五入）して求めたものです。 従い１７．４５１⇒１７．４５ではなく １７．５です ６５０８．８５⇒６５０８ではなく ６５１０です ②有効数字３桁の答えを求める場合は、元の数字をそのまま計算し最後の答のみ３桁にします。 答はＮｏ．１さんと同じです
関連するQ&A
- 有効数字の取り扱いについて
少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか？ 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか？ また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか（定義されているので、そのまま計算に使うのかどうか）？ さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか（この場合においても四捨五入が必要なのかどうか）？ ご存知の方がいらっしゃいましたらご回答よろしくお願いします。
- ベストアンサー
- その他（学問・教育）
- 理科 有効数字
かけ算、割り算のとき、どの桁まで計算するかということについて教えてください。 例えば、有効数字2桁で答えるときは、途中計算は３桁目まで計算すると習いました。このとき、4桁目を四捨五入するのですか？それとも切り捨てるのですか？ 例：3.51×4.9×0.30を計算する場合、 Ａ：4桁目を四捨五入するのが正しい場合 3.51×4.9＝17.199＝17.2 17.2×0.30＝5.16＝5.2 Ｂ：4桁目を切り捨てるのが正しい場合 3.51×4.9＝17.199＝17.1 17.1×0.30＝5.13＝5.1 ＡＢのどちらが正しい計算なのでしょうか？ Ａが正しい場合、 計算の順序を変えてみます。 3.51×0.30×4.9＝1.05×4.9＝5.145＝5.1 Ｂが正しい場合、 計算の順序を変えてみます。 4.9×0.30×3.51＝1.47×3.51＝5.197＝5.2 このように、A、Bのどちらが正しいとしても、最終結果に違いが出てしまっているのですが、入試や模試ではどのように採点されているのでしょうか。 回答よろしくお願いいたします。
- ベストアンサー
- 化学
- 有効数字について
有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4～5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか？ また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか？ Vの値はそのまま表に記載した方がいいのでしょうか？ 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。
- 締切済み
- 物理学
- 有効数字 特に、約分・計算順序について
とある問題で、 9.8 × ( 24 × 60 × 60 )^2 ━━━━━━━━━━━━━ ←÷の分数表記です 4 × ( 3.14 )^2 × 6.4 × 10^5 という数の計算がありました。 どう計算するのがもっとも精度がいいのでしょうか？ ※ 有効数字は 9.8 ２桁 3.14 ３桁 6.4 ２桁 24 × 60 × 60 は正確な値としてよい。 4 は正確な値としてよい。 なお、値の精度は、誤差○.○～□.□があるから、ではなく、桁数のみで判定してください。（大学入試的な意味で） ちなみに、手元の答えでは≒2.9 × 10^2となっています。私は初め2.3 × 10^2になりました（←計算間違いではなく 泣 ） 計算途中の切り捨て、約分、計算の順序、四捨五入、等、できるだけ詳しく計算過程を記述してほしく思います。
- 締切済み
- 物理学
- 有効数字 実験計算時
たとえば最初に出てきた値が0.011だとして、次に出てきた値が5.01次に出てきた値が0.1の時、最終的に有効数字は2桁になると思うんですが、計算途中で既に2桁で計算したほうがいいのでしょうか？ それとも最終的に出てきた値を有効数字で表すべきですか？ たとえば 0.011×5.01=0.05511 0.05511×0.1=0.005511 有効数字二桁より 0.1 とするか 0.011×5.01=0.05511 ⇒有効数字二桁より0.1 0.1×0.1=0.01 よろしくお願いします。 にするか
- ベストアンサー
- 科学
- 実験の有効数字について
有効数字３桁の値を用いて計算を行ったところ、値が0.11235や0.09812となったのですがこのときの有効数字は0.112と0.0981となるんでしょうか？ これだと精度が変わってしまうと思うんですけどこの場合はどうなるでしょうか？ どうぞよろしくお願いします。
- ベストアンサー
- 科学