- ベストアンサー
有効数字のバラバラな時の対処法とは？
- 有効数字のバラバラな時の対処法についてまとめました。
- 測定データの有効数字がばらばらな場合の解決方法について解説します。
- 有効数字が異なる場合の扱いについて詳しく説明します。
- nagata_mikio
- お礼率20% (1/5)
- 科学
- 回答数5
- ありがとう数1
- みんなの回答 （5）
- 専門家の回答
質問者が選んだベストアンサー
- ベストアンサー
その他の回答 (4)
- foomufoomu
- ベストアンサー率36% (1018/2761)
- lumiheart
- ベストアンサー率48% (1107/2306)
- 中京区 桑原町（@l4330）
- ベストアンサー率22% (4373/19604)
関連するQ&A
- ＜測定値の有効数字について＞
＜測定値の有効数字について＞ 測定における有効数字の数え方について質問があります。 一般に筆箱によく入ってる、簡単なプラスチックものさしで 構わないのですが、例えばこれの最小目盛が1mmだったとします。 このものさしを使って長方形の縦の短辺の長さを測ったとして、 目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。 この測定値の有効数字は3桁だと思います。 同じ長方形について長辺を測定して「12.34cm」と測定値を得たとき、 有効数字は4桁でしょうか?? おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字 までであるのに、有効数字の桁数は違うのでしょうか・・・？ また、和差なら問題ないのですが、 例えばこの長方形の面積を計算するために「1.23×12.34」と計算すると、 答えは「15.1782」なのですが、積と商に関しては小さいほうの桁数にあわせて 有効数字を決めることになっているかと思います。 3桁にあわせて「15.2」として良いのでしょうか？ もとの測定値における意味のある数字の位は0.01までだったのに、違和感があります・・・。 まだまだ有効数字を使い慣れていなくてよく分からないのですが、 詳しい方よろしくお願いいたします。
- ベストアンサー
- 物理学
- 有効数字は自分で決めれるのか
こんにちは有効数字について分からないことがあります。 例えば実験で電流が０．０５Aで電圧が０．１０Vだったら有効数字は１桁と２桁だから１桁として抵抗は２Ωですよね？ それで電流を０．５×１０＾（-１）Aで電圧を１．０×１０＾（-１）とすれば有効数字は２桁と２桁だから２桁として抵抗は２．０Ωになるのでしょうか？ 実際に次のようになってしまったんですがいいのでしょうか？ 電圧０．０９Vで電流０．０３０Aだから抵抗は２Ω 電圧０．１２vで電流０．０３０Aだから抵抗は４．０Ω 同じ測定結果でも有効数字が違ってしまいました。ここで０．０９を０．９×１０＾（－１）とかければ２．０Ωになると思うのですがこんなことをしてもよろしいのでしょうか？質問の内容が伝わりにくいかもしれませんがご回答よろしくお願いします！
- ベストアンサー
- 物理学
- 測定値と有効数字
目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか？ 例）ノギスを用いて（最小目盛り0.1）２つの試験片の長さLを測定し、測定値を用いてX＝L×3.14の計算を行う。 <試験片a> L : 1.12 <試験片b> L : 11.24 この場合 aの有効数字3桁で1.115から1.125の中に真値あり（誤差±0.05） bの有効数字4桁で11.235から11.245の中に真値あり（誤差±0.05） と考え、最終的に計算式に代入すると <a> X=1.12×3.14=3.5168＝3.52 ← 有効数字3桁で3.515から3.525の中に真値（誤差±0.05） <b> X=11.24×3.14=35.2936＝35.29 ← 有効数字4桁で35.285から35.295の中に真値（誤差±0.005） として良いのでしょうか？同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。 回答よろしくお願いします。
- ベストアンサー
- 物理学
- 有効数字と桁数について
有効数字と数字の桁数について、教えていただきたいことがあります。 大学で先生が測ってきた環境調査データの整理をしているのですが、ある濃度について、小数点以下が２桁のものと３桁のものが混在していました。 例えば、このような感じです。 0.23 mg/L 0.083 mg/L 違和感を感じたので、「0.220 mg/Lとしたり、四捨五入して0.08mg/Lとしたりしなくていいのですか？」と聞いたところ、「どちらも、有効数字２桁だから問題ない」と言われました。 0.23とは本来、0.225～0.235までの範囲の総称を0.22と言い、0.083とは本来、0.0825～0.0835までの範囲の総称を言うそうですが、そもそも、どちらの数字も同じ分析器機器で測定可能ということでした。ということは、基本的には1/1000の位までは正確に測れるんだと思います。ということは、0.23という数字についても小数点以下3桁で書くのが正しいのではないかと思ったのですが、こういう考えはダメでしょうか？ また、別の項目では、 0.05 mg/L 0.21 mg/L という2つの数字が出てきました。 この場合、上の有効数字は1桁で、下の有効数字は2桁と考えられ、桁があってないのではないかと思います。 これは問題ないのでしょうか？ 教えていただきたくよろしくお願いします。
- 締切済み
- 数学・算数
- Ｅｘｃｅｌの２つの数字を合体させたいのですが・・
Ｅｘｃｅｌを使っています 今３桁の数字２つを合体させて、６桁の数字を作っています 問題なのは、１とか１２とかをどうするかです １桁とか２桁の数字をうまく３桁にするには ’＃＃＃ とすれば３桁になりますが、数字扱いにならず 数字ごとに並べたときに変な風になってしまいます ユーザー定義で"00""#"及び”0""##" を使えば、やはり３桁の数字が表示されますが 合体するときには元の１桁、及び２桁の数字のままです どうしたら１桁、２桁の数字をうまく３桁の数字に変換することが出来るでしょうか？ 皆様のお知恵を、どうぞお貸し下さいませ
- ベストアンサー
- オフィス系ソフト
- Ｅｘｃｅｌの２つの数字を合体させたいのですが・・
Ｅｘｃｅｌを使っています 今３桁の数字２つを合体させて、６桁の数字を作っています 問題なのは、１とか１２とかをどうするかです １桁とか２桁の数字をうまく３桁にするには ’＃＃＃ とすれば３桁になりますが、数字扱いにならず 数字ごとに並べたときに変な風になってしまいます ユーザー定義で\"00\"\"#\"及び”0\"\"##\" を使えば、やはり３桁の数字が表示されますが 合体するときには元の１桁、及び２桁の数字のままです どうしたら１桁、２桁の数字をうまく３桁の数字に変換することが出来るでしょうか？ 皆様のお知恵を、どうぞお貸し下さいませ
- ベストアンサー
- オフィス系ソフト
- 有効数字について
有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4～5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか？ また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか？ Vの値はそのまま表に記載した方がいいのでしょうか？ 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。
- 締切済み
- 物理学
- 0.991を四捨五入して有効数字２桁にすると？
0.991を四捨五入して有効数字2桁にせよ、という問について悩んでおります。 正解は、1.0のようです。これはこれで納得いくのですが、解答として0.99も棄て切れておりません。 同様に、0.99（ぴったり）を四捨五入して有効数字2桁にせよ、についてはいかがでしょうか。 やはり、1.0が正解のようなのですが、そのまま0.99が答えではないか（有効数字2桁そのままではないか）とも思われます。 正解とされているもの（1.0）では、有効数字とするための処理の結果、数値が一桁上がることを前提に、一の位を含めて有効数字をカウントしているようなのです。 内容は化学の計算問題からです（計算結果の最後の処理のところです）。 基礎的なところで恐縮ですが、お知恵を頂けるととても助かります。
- 締切済み
- 化学
- 有効数字の表現方法
科学の問題で、「次の数を指数（A*10^Bという形）を用いて指定された有効数字で示せ」という問題で、 60200、0.062734という数字をそれぞれ有効数字1桁、2桁、3桁、4桁であらわさなければいけないのですが、 僕が考えた結果、 60200 有効数字1桁→6*10^4 有効数字2桁→60*10^3 有効数字3桁→602*10^2 有効数字4桁→6020*10 0.062734 有効数字1桁→6*10^-2 有効数字2桁→62*10^-3 有効数字3桁→627*10^-4 有効数字4桁→6273*10^-5 と思うのですが、この答えが正しいのでしょうか。 もし正しくても、たとえば60200を有効数字1桁で表して、6*10^4にしてしまうと、200という数字が無くなってしまうのにも疑問があります。 どなたか教えてくれませんでしょうか。
- ベストアンサー
- 化学
お礼
一夜考えて改まりました。kisinaituiのお答えが尤もです。ありがとうございました。確かにスッキリしていると思います。
補足
度々すみません．では，このような場合: 測定1: 123[mA] / 有効数字3桁 測定2: 12[mA] / 有効数字2桁 測定3: 1[mA] / 有効数字1桁 が， 測定1: 1.23 * 10^2[mA] / 有効数字3桁 測定2: 1.2 * 10^1[mA] / 有効数字2桁 測定3: 1 * 10^0[mA] / 有効数字1桁 となりますが，その場合に於ける何かいいアイデアはないでしょうか． （実際のところ，現在進行形で困っています．1000mAレンジと1000uAレンジで電流を測定し，混在する[mA]と[uA]の単位を[A]単位で統一したい場合は，指数表示という選択に絞られますが，そうした場合，有効数字がバラバラになっていてどうしたものかと困っているのです． 例: 1234[mA] / 有効数字4桁 / 1.234 * 10^0 [A] 34[mA] / 有効数字2桁 / 3.4 * 10^-2 [A] 7[uA] / 有効数字1桁 / 7 * 10-6 [A] ）