- ベストアンサー
有効数字について
happy2bhardcoreの回答
有効数字というのは、この値までなら保証します、という意味です。 逆に言うと、それ以下の数字は誤差とします、という意味です。 有効数字はなるべく誤差がないように決めるものです。 「88.0 ~ 88.99・・・」と「8.80 ~ 8.899・・・・」では、どちらが精度が高いのか(誤差が小さいのか)を比べてみましょう。 ちなみに、質問者さんの答えも、正答も有効数字は2桁です。
関連するQ&A
- 有効数字の桁数が違う場合のプラス1桁の出し方
有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は有効数字の桁数の最小のものプラス1桁で計算し、最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。次の場合、どちらが適当な計算といえるのでしょうか。( )内は最終的に有効数字の桁数の最小のものに四捨五入して桁数を合わせて出した答えです。 ア.2.5×1.456=2.5×1.45 (3.6) イ.2.5×1.456=2.5×1.46 (3.7) また、次の場合はどうでしょうか。(最終的に有効数字の桁数は2桁とします) ウ.x^2=2.456 x=√2.45 (x=1.6) エ.x^2=2.456 x=√2.46 (x=1.7) 結局、最終的な有効数字の桁数の次の次の位の数字を四捨五入すべきなのかそれとも意味があまりないので捨てるべきなのか分らないのです。 悩んでいますので、どなたか教えていただけないでしょうか。よろしくお願いいたします。
- ベストアンサー
- 物理学
- エクセルで数字を希望する有効数字にまるめる方法(関数など)を教えてください。
たとえば有効数字を2桁で表現しなければならない場合、実際のセル内の数値が「0.123なら0.12に、4.56なら4.6に、678なら680に、12345なら12000に変換する。」といったぐわいです。何かよい方法はありませんか。今のところ、かなり面倒なことをやっています(笑)。それは桁数を求める関数によって実際の数値の桁数をよみ取ります。(たとえば5桁)、有効数字の桁数を引き(有効数字2桁表示ならさっきの5から2を引いて3)、最後にその数字の位で四捨五入する(3桁目を四捨五入の関数を使用)という方法です(恥)。
- ベストアンサー
- オフィス系ソフト
- Excel2000での初歩的な質問です。
Excel2000での初歩的な質問です。 四捨五入というのはRound関数を使うわけですね? 例えば、28473という数値を四捨五入して28470にしたい場合ですが、 ROUND関数の入力画面には、数値と桁数があります。 数値は28473があるセルをクリックして入力するのはいいとして、 桁数というのが解りません。説明の意味も解りません。この場合、何と言う数字を入れたらいいのでしょうか? 次に、28473.49という数値を四捨五入して28473.5と表示させたい場合、 ROUND関数の入力画面で、桁数は何という数字を入力したらいいのでしょうか? 宜しくお願い致します。
- ベストアンサー
- その他MS Office製品
- 有効数字以下を四捨五入(Java)
初心者です。よろしくお願いします。 Javaで有効数字の桁数を与えてそれ以下を四捨五入することはできますか。 できるなら方法を教えてください。 単に少数第○位を四捨五入するとあらかじめ決めておけばsetScaleメソッドでできると思うのですが、 例えば有効数字2桁と決めておいて、 34.1→34 3.41→3.4 0.341→0.34 といった具合に四捨五入する方法をお伺いしたいです。 よろしくお願いします。
- ベストアンサー
- Java
- 0.991を四捨五入して有効数字2桁にすると?
0.991を四捨五入して有効数字2桁にせよ、という問について悩んでおります。 正解は、1.0のようです。これはこれで納得いくのですが、解答として0.99も棄て切れておりません。 同様に、0.99(ぴったり)を四捨五入して有効数字2桁にせよ、についてはいかがでしょうか。 やはり、1.0が正解のようなのですが、そのまま0.99が答えではないか(有効数字2桁そのままではないか)とも思われます。 正解とされているもの(1.0)では、有効数字とするための処理の結果、数値が一桁上がることを前提に、一の位を含めて有効数字をカウントしているようなのです。 内容は化学の計算問題からです(計算結果の最後の処理のところです)。 基礎的なところで恐縮ですが、お知恵を頂けるととても助かります。
- 締切済み
- 化学
- 化学での有効数字について(途中計算)
以下についてアドバイスいただけると助かります。 有効数字について 和・差について・・・小数点以下の桁数が少ない方に合わせる 積・商について・・・桁数が少ない方に合わせる については、分かったのですが、有効数字3桁での指定があるときに 19.1、24.5889、0.12553、3.2952の4つの数にたいして ○和を筆算で求める場合 小数第1位に合わせるために、 19.1→19.10(小数第2位表示) 24.5889→24.58(小数第3位切り捨て) 0.12553→0.12(小数第3位切り捨て) 3.2952→3.29(小数第3位切り捨て) として和を求め、小数第1位(小数第2位四捨五入)にする ○積を筆算で求める場合 有効数字3桁に合わせるために、 19.1→19.10(有効数字4桁表示) 24.5889→24.58(5桁目切り捨て) 0.12553→0.1255(5桁目切り捨て) 3.2952→3.295(5桁目切り捨て) として積を求め、有効数字を3桁(4桁目は四捨五入)にする と思っています。 1.このやり方で大学受験では問題ないのでしょうか。 特に気になっているのは、計算をする前の丸め方(すべて切り捨てにしているところ)です。 2.計算ステップがいくつもあり、一度に計算ができない場合、そのステップ毎に得られる数の 丸め方は切り捨て・四捨五入のどちらがよいのでしょうか。 よろしくお願いします。
- ベストアンサー
- 化学
- 有効数字について
自分は今中学生なのですが,とある化学の問題の解答で(担当の教員が書いたものです)で, (数値A)÷(数値B)=(数値C)の計算(数式(1))の後 (数値D)÷(数値E)の計算(数式(2))をするとき 数値Cを四捨五入をして有効数字3桁に合わせたら数式(2)できれいに割り切れますが,本来これはおかしいのではないのでしょうか? そんな思いもしつつ今回の試験でこの方式で解いたところ逆に割り切れなくなり(そのままの値でやれば割り切れたそうです)×をもらったしだいであります<分子量と濃度が同じだったので『割り切れますよ』的なメッセージ性はあったのですが> 教員に聞いたところ中途半端な回答しかしません。 そこで聞きたいのですが,やっぱり四捨五入すれば結果が割り切れる数であろうとも,式の途中で四捨五入しないほうがいいですよね? 乱文すいませんでした。
- ベストアンサー
- 化学