• 締切済み

有効数字につて

有効数字を含む数値の計算についての質問です。 有効数字に指定はなく、実験で測定した値から有効数字を自分で導きださなくてはなりません。 そこで計算したところ誤差を含む数字が整数値(一の位)にきてしまいました。 有効数字の計算において、値が整数にくることはあり得るのでしょうか。 他の方の質問答えも拝見したのですがどれも私の頭の悪さでは理解できませんでした。 ちなみにその計算というのが 0.1(0) ÷ 0.300(3) × 100 = 3(3) といったものです。 丸で囲まれた数字が誤差を含んでいます。 式に対する答えがあっているのか本当に自信がありません。 どなたか本当にお願いします。助けてください。

  • 化学
  • 回答数3
  • ありがとう数1

みんなの回答

  • shsst14
  • ベストアンサー率40% (38/94)
回答No.3

きな粉の試料0.3グラム中にタンパク質が0.1グラムあったという実験結果でしょうか? 試料の計測値が、0.300g、最小0.295g~0.304g タンパク質の分析値が、0.10g、最小0.095g~最大0.104g 学校で教えている内容ではないと思いますが、そのまま計算すると、 最小値=0.095[g]/0.304[g]*100[g/100g]=31.25[g/100g] 最大値=0.104[g]/0.295[g]*100[g/100g]=35.254267...[g/100g] なるので、1の位は信頼性が低いことが判りますね。 3回以上繰り返し実験すれば、不確かさが計算できるので、もっと厳密なことが云えますが、それは、ISO17025の世界になります。 不確かさの中には、計測器の測定値の不確かさの他に、気温(浮力が変わる)、試験方法、試験者など様々な要因が、あり、ISO17025と関連規格を元に様々な解説書が出ています。 解答の書き方は分かりませんが、33 +2.25/-1.75 というように誤差範囲を明示すれば、許して貰えそうに思います。

  • jaham
  • ベストアンサー率21% (215/1015)
回答No.2

>式からしておかしいということですね そのようには説明されていません 有効数字が一桁である測定値を含むような実験は 実験の前提・計画がおかしい と指摘されているのです 書かれている式の 最初の0.1 はどのようにして得られた数値でしょうか 何事も 表面的短絡的に受取らないで 熟慮するくせをつけましょう > 0.1 ÷ 0.300 × 100 = 33 では 食品のカロリー計算のレベルです

  • Saturn5
  • ベストアンサー率45% (2270/4952)
回答No.1

100の有効桁数がわかりません。 有効数字1桁か有効数字3桁かわかりません。 %にするため100ならば有効数字は考慮しない(全部有効)です。 0.1の有効数字は1桁で、0.300は3桁です。 1桁と3桁が混在するのは実験方法がおかしいからだと思います。 積算で有効指示が1桁のものを混ぜてしまえば答えも1桁になってしまいます。

piyoka829
質問者

お礼

回答ありがとうございます!!! なるほど、式からしておかしいということですね。 ちなみに100をかけたのはこの実験がタンパク質の定量実験で、きなこ100g中に含まれるタンパク質の量を調べたかったためにかけたものです。 有効数字は測定値の扱いなどで用いられる意味のある数字のことで、有効数字で示された最後の数値が誤差を含んでいると習い、 全体の計算式としては 0.0014 × {9.8(3) ― 8.5(4)} × 0.9997 × 5.71 × 10 × 100 ÷ 0.330(3) カッコで囲ってある数字が測定で得た数値で、私が誤差のある数字を含んでいる値だと思った数字です。

関連するQ&A

  • 有効数字(誤差)

    質問です。 有効数字or誤差について聞きたいのです。 ある測定をして、1回目の値が3.61×10^(-7)、2回目が3.92×10^(-7)という値になりました。 そして、正しい値は3.9×10^(-7)なのです。ここで、正しい値に対して、測定結果の有効数字or誤差はどのように評価すればいいのでしょうか? 非常に恐縮なのですが、できるだけ早い回答をお願いしたいです。お願いします。

  • 有効数字について

    有効数字について 電気系の実験において、有効数字がそれぞれI(1ケタ)、V(4~5ケタ)という測定値を得たとします。 このとき、他に有効数字がL(2ケタ)、S(2ケタ)という数値を用いて、 ρ=(S/L)*(V/I) という計算を行ったとします。 この時、ρの有効数字も、有効数字が最小ケタ(1ケタ)のIに合わせて、1ケタとして最終的に値を出せば良いのでしょうか? また、測定結果をまとめた表を書く際、I,V,ρの値をそれぞれ示したいのですが、 この時には、「有効数字をそろえて」Vの実際の測定値も有効数字1ケタに丸めなくてはいけないのでしょうか? Vの値はそのまま表に記載した方がいいのでしょうか? 「有効数字をそろえて」と書いたのは、「有効数字をそろえる」という言葉の意味がイマイチ理解し切れていないためです。 あまり上手い日本語で書けていないかもしれませんが、 ご教授のほど、よろしくお願いします。

  • 測定値と有効数字

    目盛りのついた測定機器を用いて、測定値を求めた場合の有効数字の考え方がよく分からなくて困っております。例えば、以下のような場合ではどのように有効数字を取ればいいのでしょうか? 例)ノギスを用いて(最小目盛り0.1)2つの試験片の長さLを測定し、測定値を用いてX=L×3.14の計算を行う。 <試験片a> L : 1.12 <試験片b> L : 11.24 この場合 aの有効数字3桁で1.115から1.125の中に真値あり(誤差±0.05) bの有効数字4桁で11.235から11.245の中に真値あり(誤差±0.05) と考え、最終的に計算式に代入すると <a> X=1.12×3.14=3.5168=3.52 ← 有効数字3桁で3.515から3.525の中に真値(誤差±0.05) <b> X=11.24×3.14=35.2936=35.29 ← 有効数字4桁で35.285から35.295の中に真値(誤差±0.005) として良いのでしょうか?同じ測定機器から求めた値にも関わらず、掛け算を行ってしまうと、測定誤差が異なってくるのに違和感を感じます。 回答よろしくお願いします。

  • 有効数字の絡む物理の答えの書き方続きです。

    解決しないまま終わってしまいました(泣)http://okwave.jp/qa/q9073836.html。 以下最後のご回答のやり取りです。 >また、測定で決まった値(物理定数など)と、無理数を途中で打ち切って近似したものを混同しないでください(なお、無理数を数値・近似計算で求めた場合は当然有効数字が発生するが)。 そういう事だったんですね。 近似する場合は有効数字の扱い外(有効数字が発生したとも見れる)という事ですね。 >(なお、無理数を数値・近似計算で求めた場合は当然有効数字が発生するが) どういう意味でしょうか? 結局、基本有効数字は与えられている数値の一番桁が小さい(誤差が大きい)ものに合わせるが、近似する場合は採点者に分かりやすいように有効数字外の扱いを特別にしてそのまま答えとして良いという事でいいですか?

  • <測定値の有効数字について>

    <測定値の有効数字について> 測定における有効数字の数え方について質問があります。 一般に筆箱によく入ってる、簡単なプラスチックものさしで 構わないのですが、例えばこれの最小目盛が1mmだったとします。 このものさしを使って長方形の縦の短辺の長さを測ったとして、 目分量で10分の1の位まで読んで「1.23cm」と測定値を得たとします。 この測定値の有効数字は3桁だと思います。 同じ長方形について長辺を測定して「12.34cm」と測定値を得たとき、 有効数字は4桁でしょうか?? おなじものさしを使っているし、意味を持つ数字は共に0.01cmの位の数字 までであるのに、有効数字の桁数は違うのでしょうか・・・? また、和差なら問題ないのですが、 例えばこの長方形の面積を計算するために「1.23×12.34」と計算すると、 答えは「15.1782」なのですが、積と商に関しては小さいほうの桁数にあわせて 有効数字を決めることになっているかと思います。 3桁にあわせて「15.2」として良いのでしょうか? もとの測定値における意味のある数字の位は0.01までだったのに、違和感があります・・・。 まだまだ有効数字を使い慣れていなくてよく分からないのですが、 詳しい方よろしくお願いいたします。

  • 測定と有効数字(乗除の場合)

     測定には必ず誤差を伴います。そこで有効数字の指導は次のようにすべきだと考えますがいかがでしょうか。 【例】A5判(縦 21.0 cm,横 14.8 cm)の紙の面積は? 〈解答〉縦・横とも±0.1 cmの誤差があると考えられるので (20.9×14.7)cm²≦真の値≦(21.1×14.9)cm² 307.23 cm²≦真の値≦314.39 cm² したがって信頼できるのはせいぜい一の位までであるから 求める面積は 21.0×14.8=310.80≒311(cm²) 以上からわかることは,縦・横とも有効数字 3 桁なので, 答えも有効数字 3 桁で求めることである。

  • 有効数字について

    大学の授業で物理の実験を先日行いました。 その内容は円柱などの密度や体積などを計算し誤差を求めるというものでした。そして今レポートを書いていたのですが、一つ疑問点が生じてきたので質問する事にしました。それは有効数字についてです。 例えば円柱の密度が8.56(グラム/cmの3乗)とでたとします。 長さの測定は0.1mmまでしています。 次に誤差を求めると0.0594・・・(グラム/cmの3乗)となりました。こういう場合レポートに書く場合どういうふうに有効数字を考えて表せばいいのでしょうか? 理解しにくい文章ですみません。

  • 有効数字について

    0.0001gまで測定できるはかりで秤量して得た数値のみを使って計算を行なった場合は小数点以下四桁までが有効ということでいいのでしょうか。 上記のはかりを用いて秤量した場合で、たとえば  2.3345gと10.2325g という値が得られたとして、これら二つの値の有効数字は違うのでしょうか。何回も有効数字について書かれたものは見ているのですが、いまいちよくわからないので教えてください。

  • 理科の有効数字について

    理科の有効数字に関する質問です。 理科の問題文の数値を使って計算するとき、計算結果は問題文中の測定値の桁数のうちで、最も桁数の少ない値に、最後の結果を合わせるというルールがあり ますが、これは途中に足し算や引き算があるときにも適用されますか? 例えば、問題文の数値が2桁と3桁で、掛け算割り算を先にやって、最後の結果の前の式が例えば12.3+4.56と言うようになったとき、答えは有効桁数2桁により17になりますか?それとも足し算のときの、計算結果の末位を最も末位の高いものにそろえるというルールにより、16.9になりますか?

  • 公務員試験 数的処理

    問題 1、2、3、4の5枚のカードがある。この中から3枚を選んで3桁の整数を作る。このようにしてできる3桁の整数をすべて加えるといくらになるか 解答  カードを3枚並べてできる3桁の整数は全部で、5・4・3=60通り 100の位、10の位、1の位とも1-5の数字は同じ回数だけ使われるから各位の数字は60/5=12回ずつ出てくる とあって、自分は整数を全部書き出して各位の値を計算して答えを出しましたが、解答にあるように同じ回数だけ使われるのがわかっていたときの計算、 60/5=12 がわかりません お願いします