- ベストアンサー
有効数字について
- みんなの回答 （3）
- 専門家の回答
質問者が選んだベストアンサー
有効数字２桁ということですから、求めた結果の「10.1」の３桁目は、信頼するだけの精度を持っていないということです。 全体でどの程度の精度かは分かりませんが、真値が 10.1 ± 0.5 と考えれば、最も確からしい２桁の数値は「10」ということになります。 不等号に惑わされる必要はありません。 もし、「10.1」が十分な精度を持つ（有効数字３桁）場合には、 ｘ ≧10.１ となる最小の整数は「11」ですが、これとご質問の問題とは別物です。
関連するQ&A
- 計算を早くする～～有効数字の取り方
いつだったか、塾で、 例えば有効数字2桁で答えを出せ、という問題のとき、 計算途中で、 X＝123×240＝26520 が出て そのXを使ってさらに計算を続けていくなら、 最後の答えまで到達してなくても、 26520を27000として 計算をしていい。って聞いたのですが、本当ですか？ こないだ、有効数字３桁の問題を計算してら０．０１ズレてしまいました。 これでも、受験では正解扱いにしてもらえるのでしょうか？
- 締切済み
- 化学
- 有効数字の桁数が違う場合のプラス1桁の出し方
有効数字の桁数がそろわない場合の掛け算・割り算は途中の計算は有効数字の桁数の最小のものプラス1桁で計算し、最後に四捨五入で有効数字の桁数の最小のものにあわせると書いてあります。次の場合、どちらが適当な計算といえるのでしょうか。（ ）内は最終的に有効数字の桁数の最小のものに四捨五入して桁数を合わせて出した答えです。 ア．2.5×1.456=2.5×1.45 (3.6) イ．2.5×1.456=2.5×1.46 (3.7) また、次の場合はどうでしょうか。（最終的に有効数字の桁数は2桁とします） ウ．x^2=2.456 x=√2.45 (x=1.6) エ．x^2=2.456 x=√2.46 (x=1.7) 結局、最終的な有効数字の桁数の次の次の位の数字を四捨五入すべきなのかそれとも意味があまりないので捨てるべきなのか分らないのです。 悩んでいますので、どなたか教えていただけないでしょうか。よろしくお願いいたします。
- ベストアンサー
- 物理学
- 有効数字
有効数字の計算が良く分からなくて・・・ 問題が桁数を答えよ。で (1)5500.0 (2)0.5123 (3)12.000 (4)3500 とあるのですが 私の答えは (1)５桁 (2)３桁 (3)４桁 (4)３桁 となります；； また、計算しなさいの問題で (1)28.64+3.2 (2)125.4÷13.5 (3)6.55×12.1 (4)98.4-0.12 があって 答えが(1)31.9 (2)0.1 (3)79.3 (4)98.3 になります；； あっているのでしょうか？；； 答えを教えてくれない先生なので 正解なのか不正解なのかもわかりません；； 分かる方がいらっしゃったら 教えて頂けないでしょうか？；； お願いします；；
- ベストアンサー
- 化学
- 測定値と有効数字
目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか？ 例）ノギスを用いて（最小目盛り0.1）２つの試験片の長さLを測定し、測定値を用いてX＝L×3.14の計算を行う。 <試験片a> L : 1.12 <試験片b> L : 11.24 この場合 aの有効数字3桁で1.115から1.125の中に真値あり（誤差±0.05） bの有効数字4桁で11.235から11.245の中に真値あり（誤差±0.05） と考え、最終的に計算式に代入すると <a> X=1.12×3.14=3.5168＝3.52 ← 有効数字3桁で3.515から3.525の中に真値（誤差±0.05） <b> X=11.24×3.14=35.2936＝35.29 ← 有効数字4桁で35.285から35.295の中に真値（誤差±0.005） として良いのでしょうか？同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。 回答よろしくお願いします。
- ベストアンサー
- 物理学
- 有効数字について
有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4～5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか？ また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか？ Vの値はそのまま表に記載した方がいいのでしょうか？ 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。
- 締切済み
- 物理学
お礼
わかりやすい回答ありがとうございました。納得できました。