有効数字につて

質問

有効数字を含む数値の計算についての質問です。

有効数字に指定はなく、実験で測定した値から有効数字を自分で導きださなくてはなりません。
そこで計算したところ誤差を含む数字が整数値(一の位)にきてしまいました。
有効数字の計算において、値が整数にくることはあり得るのでしょうか。
他の方の質問答えも拝見したのですがどれも私の頭の悪さでは理解できませんでした。

ちなみにその計算というのが
０．１(0)　÷　０．３００(3)　×　１００　＝　３(3)
といったものです。
丸で囲まれた数字が誤差を含んでいます。

式に対する答えがあっているのか本当に自信がありません。
どなたか本当にお願いします。助けてください。

回答No.3

shsst14

きな粉の試料0.3グラム中にタンパク質が0.1グラムあったという実験結果でしょうか？

試料の計測値が、0.300g、最小0.295g～0.304g
タンパク質の分析値が、0.10g、最小0.095g～最大0.104g

学校で教えている内容ではないと思いますが、そのまま計算すると、

最小値=0.095[g]/0.304[g]*100[g/100g]=31.25[g/100g]
最大値=0.104[g]/0.295[g]*100[g/100g]=35.254267...[g/100g]

なるので、1の位は信頼性が低いことが判りますね。

3回以上繰り返し実験すれば、不確かさが計算できるので、もっと厳密なことが云えますが、それは、ISO17025の世界になります。

不確かさの中には、計測器の測定値の不確かさの他に、気温(浮力が変わる)、試験方法、試験者など様々な要因が、あり、ISO17025と関連規格を元に様々な解説書が出ています。

解答の書き方は分かりませんが、33 +2.25/-1.75 というように誤差範囲を明示すれば、許して貰えそうに思います。

回答No.2

jaham

＞式からしておかしいということですね

そのようには説明されていません

有効数字が一桁である測定値を含むような実験は　実験の前提・計画がおかしい　と指摘されているのです

書かれている式の　最初の0.1　はどのようにして得られた数値でしょうか

何事も　表面的短絡的に受取らないで　熟慮するくせをつけましょう

＞　0.1　÷　0.300　×　100　＝　33

では　食品のカロリー計算のレベルです

回答No.1

Saturn5

１００の有効桁数がわかりません。
有効数字１桁か有効数字３桁かわかりません。
％にするため１００ならば有効数字は考慮しない（全部有効）です。

０．１の有効数字は１桁で、０．３００は３桁です。
１桁と３桁が混在するのは実験方法がおかしいからだと思います。
積算で有効指示が１桁のものを混ぜてしまえば答えも１桁になってしまいます。

お礼

回答ありがとうございます！！！

なるほど、式からしておかしいということですね。
ちなみに100をかけたのはこの実験がタンパク質の定量実験で、きなこ100ｇ中に含まれるタンパク質の量を調べたかったためにかけたものです。

有効数字は測定値の扱いなどで用いられる意味のある数字のことで、有効数字で示された最後の数値が誤差を含んでいると習い、
全体の計算式としては
0.0014　×　{9.8(3)　―　8.5(4)}　×　0.9997　×　5.71　×　10　×　100　÷　0.330(3)
カッコで囲ってある数字が測定で得た数値で、私が誤差のある数字を含んでいる値だと思った数字です。