- 締切済み
有効数字
hagiwara_mの回答
- hagiwara_m
- ベストアンサー率44% (58/130)
有効数字は、最終結果を記録したり、他者に報告するときに重要な意味をもちます。結果の何桁目まで有意と主張するかという大問題になるからです。 計算途中で問題となるのは、手計算の手間だけです。電卓を使用するなら、わざわざ丸めるより、全桁使った方がいいです。ただ、こうすると、結果が長い小数になるので、人によっては、元々の有効桁数を忘れてしまうようです。最終結果の有効数字の検討は忘れないようにして下さい。
関連するQ&A
- 定数が入る場合の有効数字
掛け算・割り算の場合の有効数字は、もっとも有効数字の桁数の小さいものより1桁多いものまで出して、その後四捨五入によりもっとも有効数字の小さいものにあわせるとなっています。 肥満度をあらわすＢＭＩの式は次の通りです。 標準体重(kg)＝身長(m)×身長(m)×22 たとえば身長が1.735mだとします。この場合の22は測定値ではなく定数と考えるべきだと思うのですが、この場合の有効数字の桁数は4桁なのでしょうか、2桁なのでしょうか。 また、身長(m)×身長(m)が出た時点で有効桁数をそろえるのと、×22まで計算してから有効数字をそろえるのでは結果が違ってくる場合があります。最後まで計算してから有効筋の桁数をそろえるのでしょうか。 以上2点について悩んでいます。 どなたか教えていただけないでしょうか。よろしくお願いいたします。
- ベストアンサー
- 物理学
- 有効数字の桁数が違う場合のプラス1桁の出し方
有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は有効数字の桁数の最小のものプラス1桁で計算し、最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。次の場合、どちらが適当な計算といえるのでしょうか。（ ）内は最終的に有効数字の桁数の最小のものに四捨五入して桁数を合わせて出した答えです。 ア．2.5×1.456=2.5×1.45 (3.6) イ．2.5×1.456=2.5×1.46 (3.7) また、次の場合はどうでしょうか。（最終的に有効数字の桁数は2桁とします） ウ．x^2=2.456 x=√2.45 (x=1.6) エ．x^2=2.456 x=√2.46 (x=1.7) 結局、最終的な有効数字の桁数の次の次の位の数字を四捨五入すべきなのかそれとも意味があまりないので捨てるべきなのか分らないのです。 悩んでいますので、どなたか教えていただけないでしょうか。よろしくお願いいたします。
- ベストアンサー
- 物理学
- 有効数字(有効桁数)と四捨五入について・・・。
自分は現在高校生です。物理化学数学でカテゴリ迷ったのですがこちらに。 四捨五入、有効数字に関する質問は過去にもあるのですが、何か腑に落ちないので質問させて貰います。 学校では、 http://www.fnorio.com/0034significant_figure1/significant_figure.htm にあるように、「有効数字＋1桁までを計算して結果を出し、その結果を有効数字にまとめろ」と習います。 しかしこれをやってしまうと、以下有効数字による表記として、 ア・・・1.1+1.445=2.545→（有効数字2桁なので四捨五入）→2.5 イ・・・1.1+1.445→（まず有効数字を3桁にしてみる） →1.1+1.45=2.55→（有効数字2桁なので四捨五入）→2.6 となり答えが違ってきます。 じゃあ有効数字＋2桁まで計算すればいいのかと思うと、 ウ・・・1.1+1.4495=2.5495→（有効数字2桁なので四捨五入）→2.5 エ・・・1.1+1.4495→(有効数字4桁にしてみる)→1.1+1.450=2.550→（有効数字2桁なので四捨五入）→2.6 となりやっぱり答えが変わるパターンがあります。 乗除については、 （四捨五入せずに)積を計算→結果を有効数字+1桁に変換→・・・ なんてことを繰り返していると+1桁程度では厳密に計算したものとかなり違ってくると思います。 実際、高校の物理や化学ではア～エは全部正解にしてくれると思うのですが（エはよく分かりませんが・・・）、数学的にはどうなのでしょうか。 また、誤差の大きくなってしまう乗除はどうすればいいのでしょうか。
- 締切済み
- 数学・算数
- エクセルで数字を希望する有効数字にまるめる方法（関数など）を教えてください。
たとえば有効数字を２桁で表現しなければならない場合、実際のセル内の数値が「0.123なら0.12に、4.56なら4.6に、678なら680に、12345なら12000に変換する。」といったぐわいです。何かよい方法はありませんか。今のところ、かなり面倒なことをやっています（笑）。それは桁数を求める関数によって実際の数値の桁数をよみ取ります。（たとえば５桁）、有効数字の桁数を引き（有効数字２桁表示ならさっきの５から２を引いて３）、最後にその数字の位で四捨五入する（３桁目を四捨五入の関数を使用）という方法です（恥）。
- ベストアンサー
- オフィス系ソフト
- 有効数字の取り扱いについて
少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか？ 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか？ また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか（定義されているので、そのまま計算に使うのかどうか）？ さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか（この場合においても四捨五入が必要なのかどうか）？ ご存知の方がいらっしゃいましたらご回答よろしくお願いします。
- ベストアンサー
- その他（学問・教育）
- 有効数字以下を四捨五入（Java）
初心者です。よろしくお願いします。 Javaで有効数字の桁数を与えてそれ以下を四捨五入することはできますか。 できるなら方法を教えてください。 単に少数第○位を四捨五入するとあらかじめ決めておけばsetScaleメソッドでできると思うのですが、 例えば有効数字２桁と決めておいて、 34.1→34 3.41→3.4 0.341→0.34 といった具合に四捨五入する方法をお伺いしたいです。 よろしくお願いします。
- ベストアンサー
- Java
- 化学での有効数字について（途中計算）
以下についてアドバイスいただけると助かります。 有効数字について 和・差について・・・小数点以下の桁数が少ない方に合わせる 積・商について・・・桁数が少ない方に合わせる については、分かったのですが、有効数字３桁での指定があるときに 19.1、24.5889、0.12553、3.2952の4つの数にたいして ○和を筆算で求める場合 小数第1位に合わせるために、 19.1→19.10（小数第2位表示） 24.5889→24.58（小数第3位切り捨て） 0.12553→0.12（小数第3位切り捨て） 3.2952→3.29（小数第3位切り捨て） として和を求め、小数第1位（小数第2位四捨五入）にする ○積を筆算で求める場合 有効数字３桁に合わせるために、 19.1→19.10（有効数字4桁表示） 24.5889→24.58（5桁目切り捨て） 0.12553→0.1255（5桁目切り捨て） 3.2952→3.295（5桁目切り捨て） として積を求め、有効数字を3桁（4桁目は四捨五入）にする と思っています。 １．このやり方で大学受験では問題ないのでしょうか。 特に気になっているのは、計算をする前の丸め方（すべて切り捨てにしているところ）です。 ２．計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の 丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。 よろしくお願いします。
- ベストアンサー
- 化学