- 締切済み
有効数字
有効数字についての質問です。 計算途中で物理定数を使用するとき、測定値に合わせた桁数まで とればいいことはわかるのですが、そのときに最後の桁はもう一つ下の桁を四捨五入して得た数字を採用するのでしょうか。それとも、元のままの数字を使用するのでしょうか。 例えば、測定値が5桁でこれに円周率をかけるとすると、 測定値×3.1415 なのか、それとも 測定値×3.1416 なのかどちらになるのでしょうか。 初歩的な質問で申し訳ありません。よろしくお願いします。
- みんなの回答 (5)
- 専門家の回答
みんなの回答
- wolv
- ベストアンサー率37% (376/1001)
- hagiwara_m
- ベストアンサー率44% (58/130)
- hagiwara_m
- ベストアンサー率44% (58/130)
- rei00
- ベストアンサー率50% (1133/2260)
- ADEMU
- ベストアンサー率31% (726/2280)
関連するQ&A
- 定数が入る場合の有効数字
掛け算・割り算の場合の有効数字は、もっとも有効数字の桁数の小さいものより1桁多いものまで出して、その後四捨五入によりもっとも有効数字の小さいものにあわせるとなっています。 肥満度をあらわすBMIの式は次の通りです。 標準体重(kg)=身長(m)×身長(m)×22 たとえば身長が1.735mだとします。この場合の22は測定値ではなく定数と考えるべきだと思うのですが、この場合の有効数字の桁数は4桁なのでしょうか、2桁なのでしょうか。 また、身長(m)×身長(m)が出た時点で有効桁数をそろえるのと、×22まで計算してから有効数字をそろえるのでは結果が違ってくる場合があります。最後まで計算してから有効筋の桁数をそろえるのでしょうか。 以上2点について悩んでいます。 どなたか教えていただけないでしょうか。よろしくお願いいたします。
- ベストアンサー
- 物理学
- 有効数字の桁数が違う場合のプラス1桁の出し方
有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は有効数字の桁数の最小のものプラス1桁で計算し、最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。次の場合、どちらが適当な計算といえるのでしょうか。( )内は最終的に有効数字の桁数の最小のものに四捨五入して桁数を合わせて出した答えです。 ア.2.5×1.456=2.5×1.45 (3.6) イ.2.5×1.456=2.5×1.46 (3.7) また、次の場合はどうでしょうか。(最終的に有効数字の桁数は2桁とします) ウ.x^2=2.456 x=√2.45 (x=1.6) エ.x^2=2.456 x=√2.46 (x=1.7) 結局、最終的な有効数字の桁数の次の次の位の数字を四捨五入すべきなのかそれとも意味があまりないので捨てるべきなのか分らないのです。 悩んでいますので、どなたか教えていただけないでしょうか。よろしくお願いいたします。
- ベストアンサー
- 物理学
- 有効数字(有効桁数)と四捨五入について・・・。
自分は現在高校生です。物理化学数学でカテゴリ迷ったのですがこちらに。 四捨五入、有効数字に関する質問は過去にもあるのですが、何か腑に落ちないので質問させて貰います。 学校では、 http://www.fnorio.com/0034significant_figure1/significant_figure.htm にあるように、「有効数字+1桁までを計算して結果を出し、その結果を有効数字にまとめろ」と習います。 しかしこれをやってしまうと、以下有効数字による表記として、 ア・・・1.1+1.445=2.545→(有効数字2桁なので四捨五入)→2.5 イ・・・1.1+1.445→(まず有効数字を3桁にしてみる) →1.1+1.45=2.55→(有効数字2桁なので四捨五入)→2.6 となり答えが違ってきます。 じゃあ有効数字+2桁まで計算すればいいのかと思うと、 ウ・・・1.1+1.4495=2.5495→(有効数字2桁なので四捨五入)→2.5 エ・・・1.1+1.4495→(有効数字4桁にしてみる)→1.1+1.450=2.550→(有効数字2桁なので四捨五入)→2.6 となりやっぱり答えが変わるパターンがあります。 乗除については、 (四捨五入せずに)積を計算→結果を有効数字+1桁に変換→・・・ なんてことを繰り返していると+1桁程度では厳密に計算したものとかなり違ってくると思います。 実際、高校の物理や化学ではア~エは全部正解にしてくれると思うのですが(エはよく分かりませんが・・・)、数学的にはどうなのでしょうか。 また、誤差の大きくなってしまう乗除はどうすればいいのでしょうか。
- 締切済み
- 数学・算数
- エクセルで数字を希望する有効数字にまるめる方法(関数など)を教えてください。
たとえば有効数字を2桁で表現しなければならない場合、実際のセル内の数値が「0.123なら0.12に、4.56なら4.6に、678なら680に、12345なら12000に変換する。」といったぐわいです。何かよい方法はありませんか。今のところ、かなり面倒なことをやっています(笑)。それは桁数を求める関数によって実際の数値の桁数をよみ取ります。(たとえば5桁)、有効数字の桁数を引き(有効数字2桁表示ならさっきの5から2を引いて3)、最後にその数字の位で四捨五入する(3桁目を四捨五入の関数を使用)という方法です(恥)。
- ベストアンサー
- オフィス系ソフト
- 有効数字の取り扱いについて
少し細かいことですいませんが、有効数字の取り扱いについて質問させてください。 問題で、[有効数字 3 桁で答えよ]とあった場合、文献値は何桁でとってくればいいのでしょうか? 友達の話では、この場合 4 桁でとってきて、最終的に四捨五入し 3 桁で答えればいいらしいのですが、その時例えば、ボルツマン定数 1.38066*10^-23 J/K では、1.380*10^-23 でしょうか、それとも少数第 4 桁目を四捨五入し 1.381*10^-23 でしょうか? また、真空中の光速度は 2.99792458*10^8 m/s と定義されているようですが、この時はどうなのでしょうか(定義されているので、そのまま計算に使うのかどうか)? さらに質問なのですが、計算途中で得られた数値を次の式に使いたい場合は、有効数字何桁でとって次の計算に使うのでしょうか(この場合においても四捨五入が必要なのかどうか)? ご存知の方がいらっしゃいましたらご回答よろしくお願いします。
- ベストアンサー
- その他(学問・教育)
- 有効数字以下を四捨五入(Java)
初心者です。よろしくお願いします。 Javaで有効数字の桁数を与えてそれ以下を四捨五入することはできますか。 できるなら方法を教えてください。 単に少数第○位を四捨五入するとあらかじめ決めておけばsetScaleメソッドでできると思うのですが、 例えば有効数字2桁と決めておいて、 34.1→34 3.41→3.4 0.341→0.34 といった具合に四捨五入する方法をお伺いしたいです。 よろしくお願いします。
- ベストアンサー
- Java
- 化学での有効数字について(途中計算)
以下についてアドバイスいただけると助かります。 有効数字について 和・差について・・・小数点以下の桁数が少ない方に合わせる 積・商について・・・桁数が少ない方に合わせる については、分かったのですが、有効数字3桁での指定があるときに 19.1、24.5889、0.12553、3.2952の4つの数にたいして ○和を筆算で求める場合 小数第1位に合わせるために、 19.1→19.10(小数第2位表示) 24.5889→24.58(小数第3位切り捨て) 0.12553→0.12(小数第3位切り捨て) 3.2952→3.29(小数第3位切り捨て) として和を求め、小数第1位(小数第2位四捨五入)にする ○積を筆算で求める場合 有効数字3桁に合わせるために、 19.1→19.10(有効数字4桁表示) 24.5889→24.58(5桁目切り捨て) 0.12553→0.1255(5桁目切り捨て) 3.2952→3.295(5桁目切り捨て) として積を求め、有効数字を3桁(4桁目は四捨五入)にする と思っています。 1.このやり方で大学受験では問題ないのでしょうか。 特に気になっているのは、計算をする前の丸め方(すべて切り捨てにしているところ)です。 2.計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の 丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。 よろしくお願いします。
- ベストアンサー
- 化学
- 【ptouch cube】を初期不良かBluetooth接続の問題があり、問い合わせが難しい仕様になっています。
- iOSで無線LAN接続しており、デザインアンドプリント2という関連アプリを使用しています。
- ブラザー製品の質とサービスが最悪で絶対に買いたくありません。
補足
ありがとうございました。 回答を読ませていただいて少し気になったことがあるのですが、 計算途中で四捨五入した値を使用する作業を繰り返していくと、段々誤差が大きくなるような気がするのですが、これは錯覚でしょうか?